a16z przeprowadza badania wśród 100 CISO: Dlaczego budżet na bezpieczeństwo cybernetyczne rośnie w erze AI?

Autorzy: Steph Zhang, Owen Colby (a16z)

Skład: Shen Chao TechFlow

Wprowadzenie Shen Chao: Od dłuższego czasu branża bezpieczeństwa cybernetycznego przygotowuje się na rewolucję, jaką może przynieść obliczenia kwantowe, które mogą zburzyć systemy kryptograficzne. Jednak nikt nie spodziewał się, że duże modele językowe i autonomiczne agenty (AI Agents) będą rozwijać się w tempie przekraczającym prawo Moore'a, wprowadzając zamieszanie w dziedzinie inżynierii oprogramowania oraz ataków i obrony. Od przypadkowego ucieczki agenta OpenAI w testach bezpieczeństwa i infiltracji systemu produkcyjnego Hugging Face, po automatyczne wykrywanie luk, które obniżyło próg wykorzystania luk zero-day do poziomu dostępnego dla przeciętnego użytkownika, AI z niezwykle asymetryczną efektywnością uzbroiło zarówno atakujących, jak i obrońców.

Na progu tej dramatycznej zmiany w paradygmacie ataku i obrony, wiodący fundusz inwestycyjny z Doliny Krzemowej, a16z, przeprowadził dogłębne badania wśród 100 głównych dyrektorów ds. bezpieczeństwa informacji (CISO) w firmach zatrudniających ponad 500 pracowników. Dane z badania pokazują, że aż 87% liderów bezpieczeństwa przewiduje, że budżet na bezpieczeństwo w roku finansowym 2027 wzrośnie, a kluczowe obszary obrony przedsiębiorstw przechodzą historyczną migrację: z przeszłego pasywnego gromadzenia alarmów, "odkrycie to koniec", na pełne przejście do automatyzacji łatania, "zamknięta naprawa"; z kwartalnych testów penetracyjnych, przekształcających się w 24/7 autonomiczne ataki i obrony czerwonej drużyny.

W międzyczasie wewnętrzne "shadow AI" i nadużycia uprawnień agentów AI w firmach stworzyły bezprecedensowe nowe powierzchnie ataku, a popularyzacja narzędzi programistycznych wspomaganych AI spowodowała, że repozytoria kodu eksplodowały, znacznie podnosząc próg analizy statycznej kodu (SAST) i ochrony w czasie rzeczywistym. Niniejszy raport przedstawia pełny obraz rzeczywistych intencji zakupowych i budżetowych 100 CISO w kluczowych wymiarach, takich jak przeciwdziałanie atakom, operacje SOC, bezpieczeństwo danych oraz integracja platform, dostarczając niezwykle perspektywicznego kompasu dla przedsiębiorców w dziedzinie bezpieczeństwa cybernetycznego, decydentów technologicznych w firmach oraz inwestorów na rynku pierwotnym.

a16z partner Martin Casado opublikował dzisiaj nowy artykuł, w którym szczegółowo analizuje cztery podstawowe filozofie, które dominują w ocenie zakupów i budowy bezpieczeństwa cybernetycznego przez inwestorów: kliknij tutaj, aby przeczytać całość.

Od lat cała branża bezpieczeństwa cybernetycznego jest w gotowości, przygotowując się na dzień, w którym obliczenia kwantowe całkowicie zburzą zasady obrony sieci. Jednak sztuczna inteligencja (AI) zapukała do drzwi jako pierwsza.

Tego lata agent OpenAI przypadkowo uciekł podczas benchmarku bezpieczeństwa i skutecznie przeniknął do systemu produkcyjnego Hugging Face. Grupa agentów miała symulować luki w środowisku sandbox, ale znalazła skuteczne dowody, które pozwoliły jej przekroczyć granice izolacji i przejąć kluczową infrastrukturę.

To tylko wierzchołek góry lodowej wielkiego spektaklu. Od tego czasu AI zaczęła w niespotykanym dotąd tempie wspierać hakerów i badaczy bezpieczeństwa w odkrywaniu głęboko ukrytych słabości w oprogramowaniu podstawowym w Internecie.

Zaledwie miesiąc temu zespół badawczy przeprowadził kompleksowe przeszukiwanie otwartych repozytoriów kodu przy użyciu nowoczesnych dużych modeli, wykrywając ponad 20 wcześniej nieodkrytych luk zero-day. Wśród nich znalazły się nawet niektóre stare kody, które działały w kluczowych środowiskach produkcyjnych przez ponad 20 lat.

Wady kodu zawsze istniały obiektywnie, ale obecna kluczowa zmiana polega na tym, że duże modele są w stanie z niespotykaną efektywnością wyłapywać słabości z ogromnych ilości kodu i samodzielnie opracowywać wykonalne łańcuchy ataków wykorzystujących luki.

Rysunek: Wydajność wykrywania luk wspomaganych AI osiąga nowy poziom

W międzyczasie liczba ujawnionych luk krytycznych również wzrosła w dramatyczny sposób. W obliczu zalewających alarmów, wewnętrzne zespoły bezpieczeństwa, które już były pod dużą presją, mają coraz mniej czasu na reagowanie na każde zdarzenie.

Rysunek: Liczba luk bezpieczeństwa i krytycznych luk, z którymi borykają się przedsiębiorstwa, rośnie z roku na rok

Jeszcze trudniejsze jest to, że cyfrowe granice, które zespół bezpieczeństwa ma chronić, również szaleńczo się rozszerzają. Dzięki różnym narzędziom wspomaganym AI, zwykli pracownicy rozwijają i uruchamiają nowe aplikacje w niespotykanym dotąd tempie; systemy biznesowe, które wcześniej wymagały miesięcy pracy profesjonalnych architektów, teraz mogą być uruchamiane w ciągu kilku tygodni, a nawet dni.

Dane wewnętrzne przedsiębiorstw są wykorzystywane w niespotykanym dotąd zakresie i częstotliwości. Różne działy zaczynają wprowadzać swoje dokumenty do dużych modeli i budować skomplikowane automatyczne integracje między różnymi narzędziami SaaS a danymi biznesowymi w intranecie.

To doskonale wyjaśnia, dlaczego na rynku wtórnym widzimy, że całkowita kapitalizacja rynkowa wiodących platform bezpieczeństwa cybernetycznego, takich jak Palo Alto Networks i CrowdStrike, nieustannie przekracza historyczne maksima, a nowa generacja jednorożców w dziedzinie bezpieczeństwa cybernetycznego osiąga oszałamiające wyceny na poziomie 10 miliardów dolarów.

Rysunek: Całkowita kapitalizacja rynkowa wiodących platform bezpieczeństwa cybernetycznego wzrasta do historycznych rekordów w ostatnich latach

Granice aktywów, które należy chronić, nieustannie się rozszerzają, a budżety bezpieczeństwa dużych przedsiębiorstw również szybko rosną.

Aby zbadać, jak decydenci bezpieczeństwa na pierwszej linii radzą sobie z tymi bezprecedensowymi presjami, przeprowadziliśmy dogłębne badania ilościowe i jakościowe wśród 100 CISO w dużych przedsiębiorstwach zatrudniających ponad 500 osób. Badane firmy obejmowały główne branże, takie jak usługi finansowe, zdrowie, nowoczesne technologie i zaawansowane wytwarzanie.

Nie jest zaskoczeniem, że zdecydowana większość (87%) CISO wyraźnie przewiduje, że wydatki na bezpieczeństwo cybernetyczne w 2027 roku będą nadal rosły. Kluczowym silnikiem tego wzrostu budżetu są rosnące zewnętrzne zagrożenia wspierane przez AI oraz rosnące potrzeby ochrony wewnętrznych aplikacji AI.

Rysunek: Badania wśród 100 CISO: 87% respondentów przewiduje dalszy wzrost całkowitego budżetu na bezpieczeństwo cybernetyczne

Wśród tych nowych strumieni finansowych, zdecydowana większość została wyraźnie przeznaczona na zakup nowoczesnych narzędzi bezpieczeństwa. Jednak szczególnie pozytywnym sygnałem jest to, że wzrost budżetu na narzędzia nie odbywa się kosztem redukcji zatrudnienia.

Prawie połowa (48%) badanych firm zadeklarowała, że planują zwiększyć zatrudnienie nowych ekspertów ds. bezpieczeństwa i analityków, równocześnie z rozszerzeniem zakupów oprogramowania.

Rysunek: Nowe wydatki na bezpieczeństwo: zakup narzędzi na czołowej pozycji, a rekrutacja personelu utrzymuje równoległy wzrost

Co jest głównym motywem tego podwójnego wzrostu ludzi i technologii? Prawdziwą ambicją CISO jest całkowite rozszerzenie zakresu obrony: przeszukiwanie tych marginalnych alarmów, które wcześniej musiały być odkładane na bok, przeprowadzanie kompleksowych testów bezpieczeństwa dla rosnącej liczby aplikacji wewnętrznych oraz znaczne skrócenie czasu od ujawnienia luki do jej całkowitego naprawienia.

CISO w czołowych amerykańskich firmach już nie tylko teoretyzują. Intensywnie prowadzą testy koncepcji produktów (PoC) i pilotażowe testy, wyznaczają specjalne fundusze zakupowe i bardzo ostrożnie decydują, którym produktom zaufać, aby wprowadzić je do środowiska produkcyjnego.

Wiele istotnych decyzji zakupowych zostanie podjętych w ciągu najbliższych dwóch do trzech kwartałów.

AI przekształca priorytety bezpieczeństwa przedsiębiorstw

W dzisiejszym świecie bezpieczeństwa cybernetycznego, rok wystarcza, aby zaszły ogromne zmiany pokoleniowe.

Kiedy zaprosiliśmy liderów bezpieczeństwa do podsumowania ich priorytetów obronnych na początku 2026 roku, zarządzanie ekspozycją i lukami (Exposure & Vulnerability Management), zarządzanie bezpieczeństwem w chmurze (CSPM) oraz bezpieczeństwo aplikacji (AppSec) zajmowały najwyższe miejsca w hierarchii priorytetów.

Jednak zaledwie kilka miesięcy później, gdy ponownie rysowali mapę na 2027 rok, układ priorytetów uległ dramatycznym zmianom. Testy bezpieczeństwa o charakterze ofensywnym (Offensive Security), zarządzanie bezpieczeństwem wewnętrznych agentów AI oraz automatyzacja operacji SOC z impetem stały się gorącymi tematami w całej branży.

To, które projekty zostaną uznane za najpilniejsze strategiczne P0, zależy od konkretnej struktury każdej firmy. Automatyzacja operacji SOC zdobyła najwięcej głosów na pierwszym miejscu; w tym samym czasie inne zespoły umieściły ofensywne bezpieczeństwo lub zarządzanie wewnętrznymi agentami AI na czołowej pozycji.

Rysunek: Badania wśród 100 CISO: Rozkład priorytetów bezpieczeństwa przedsiębiorstw P0 i P1 na 2027 rok

Przesunięcie z ustalonych priorytetów z 2026 roku do nowej mapy na 2027 rok wyraźnie ilustruje niesamowitą szybkość, z jaką cały program bezpieczeństwa ulega przekształceniu i rewizji.

W tym kontekście, bezpieczeństwo wewnętrznych agentów AI, automatyzacja odpowiedzi SOC oraz ofensywne działania wciąż stają się trzema kluczowymi obszarami, które zyskują na znaczeniu w całej branży.

Rysunek: Kluczowe obszary, które zyskują na znaczeniu wśród CISO: bezpieczeństwo agentów, automatyzacja SOC i ciągłe działania ofensywne

To historyczne przesunięcie priorytetów jest w istocie napędzane przez dwie nie do zignorowania głębokie potrzeby:

Po pierwsze, przedsiębiorstwa muszą w sposób zdecydowany wzmocnić granice bezpieczeństwa narzędzi AI, które pracownicy i klienci już szeroko wykorzystują.

Po drugie, zespoły obronne muszą wprowadzić pełne możliwości AI do swojej codziennej obrony, aby nadążyć za błyskawicznym rozwojem arsenału ataków hakerskich.

Następny okres zakupowy już się rozpoczął

Mimo że dyskusje na temat zaawansowanych możliwości bezpieczeństwa AI są intensywne, większość firm wciąż znajduje się w fazie pilotażowej i weryfikacyjnej swoich systemów ochrony online. Tylko 18% ankietowanych firm zadeklarowało, że ich podstawowe linie obrony w pełni wdrożyły produkcyjne możliwości natywne AI.

Jednak punkt zwrotny zbliża się szybko: zdecydowana większość firm rozpoczęła głębokie testy pilotażowe i wyraźnie przewiduje, że w ciągu najbliższego roku wprowadzi je do formalnego środowiska produkcyjnego. Wśród nich, przegląd bezpieczeństwa kodu i inteligentna obrona poczty elektronicznej tymczasowo prowadzą pod względem aktualnego wskaźnika wdrożenia na poziomie produkcyjnym.

Rysunek: Kluczowe technologie bezpieczeństwa AI w fazie wdrożenia: testy pilotażowe przyspieszają przejście do pełnej produkcji.

W porównaniu z długotrwałą wymianą systemów, rzeczywiste plany zakupowe firm często są bardziej zdecydowane.

Dane z badania pokazują, że aż 45% CISO wyraźnie planuje w ciągu najbliższych 12 miesięcy dokonać nowych zakupów lub znaczących aktualizacji w zakresie bezpieczeństwa wewnętrznych inteligentnych systemów AI; ponad jedna trzecia decydentów planuje złożyć ogromne zamówienia na narzędzia do ofensywnego bezpieczeństwa i zautomatyzowane SOC.

Rysunek: Plany CISO dotyczące nowych zakupów lub znaczących aktualizacji w ciągu najbliższych 12 miesięcy.

Jednak wyzwaniem jest to, że proces decyzyjny nabywców jest ściśle związany z szybkim rozwojem produktów. Niektórzy nabywcy rozszerzają skalę pierwszej fazy testów pilotażowych, podczas gdy inni z trudem ważą nowe funkcje w oszałamiających prezentacjach, próbując zablokować najbardziej obiecującą trasę przed zbiegiem technologii.

Poniżej przedstawimy sześć głównych kierunków ewolucji branży ujawnionych przez setki czołowych CISO oraz nasze przekonanie o przełomowych możliwościach przedsiębiorczości.

Bezpieczeństwo ofensywne ewoluuje w kierunku ciągłej zdolności operacyjnej

Na początku tego miesiąca a16z zainwestowało w rundę B finansowania Armadin, założoną przez znanego lidera bezpieczeństwa Kevina Mandia. Inwestujemy w ten obszar, ponieważ głęboko wierzymy, że zespoły obronne muszą myśleć jak najlepsi atakujący i mieć taką samą zwinność w działaniach ofensywnych.

Na szybko zmieniającym się polu bitwy w sieci, prędkość jest kluczowa. W tradycyjnym modelu testów penetracyjnych zespoły bezpieczeństwa często potrzebują tygodni, aby szczegółowo przeanalizować raporty, a następnie czekać miesiące, a nawet dłużej na kolejne pełne testy. Jednak w dynamicznej architekturze chmurowej takie rzadkie, statyczne przeglądy są jak szukanie miecza w łodzi.

Eksplozja AI potęguje śmiertelność tej różnicy czasowej. Najnowsze obliczenia znanej firmy doradczej Bain wskazują, że narzędzia AI mogą skrócić typowy cykl ataku od wykrycia do zadania śmiertelnego ciosu z tradycyjnych średnio 4 tygodni do zaledwie 2 dni.

Rysunek: Obliczenia Bain: czas trwania łańcucha ataku napędzanego AI skrócony z średnio 4 tygodni do zaledwie 2 dni.

W obliczu ataków ze strony przeciwników, liderzy bezpieczeństwa firm pilnie pragną znacznie zwiększyć częstotliwość testów obronnych. Aż 83% ankietowanych uważa, że znaczne zwiększenie częstotliwości testów postawy bezpieczeństwa jest kluczowe, a 54% menedżerów traktuje to jako niepodważalny żywotny element przetrwania firmy.

Jak powiedział jeden z CISO w międzynarodowym koncernie produkcyjnym: "W obliczu nowych zagrożeń napędzanych przez AI musimy znajdować luki szybciej niż hakerzy mogą zapukać do drzwi."

Rysunek: Badania setek CISO: Ponad 80% ankietowanych wysoko ocenia znaczenie zwiększenia częstotliwości testów postawy bezpieczeństwa.

Zaawansowane doświadczenie w atakach i obronach, które zdobyli ludzie, pozostaje niezbędnym zasobem dla każdej nowoczesnej firmy. Jednak nie można zaprzeczyć, że zakres systemów i aplikacji, które można pokryć wyłącznie ludzkim okiem, jest niezwykle ograniczony.

Z tego powodu zdecydowana większość firm postanawia zerwać z tradycją przeprowadzania jedynie jednego lub dwóch próbnych testów penetracyjnych rocznie, a zamiast tego traktuje regularne ćwiczenia ofensywne jako minimalny standard, dodając do nich systemy AI Red Team, które mogą autonomicznie wykrywać przez 24 godziny na dobę, 7 dni w tygodniu.

Wyniki badania wyraźnie potwierdzają ten przyszły trend: obecnie tylko 18% ankietowanych firm jest w stanie zautomatyzować testy ofensywne po każdej publikacji kodu; jednak w ciągu najbliższych trzech lat przewiduje się, że aż 83% firm włączy ciągłe zautomatyzowane testy Red-Blue do swojej podstawowej infrastruktury.

Rysunek: Prognoza wzrostu częstotliwości testów bezpieczeństwa ofensywnego: w ciągu trzech lat udział ciągłych zautomatyzowanych testów osiągnie 83%.

Ta migracja paradygmatu technologicznego głęboko przekształca cykl życia budowy i utrzymania oprogramowania. Każda budowa i wdrożenie kodu automatycznie wyzwala głębokie symulacje ataków i obrony, a inżynierowie R&D mogą zobaczyć rzeczywiste ścieżki ataku i obrony kilka godzin przed uruchomieniem biznesu.

Rysunek: Ciągłe testy ofensywne głęboko zintegrowane z nowoczesnym CI/CD i linią wydania oprogramowania.

Odkrywanie luk jest ważne, ale automatyczna naprawa jest kluczowa

W procesie wykrywania luk, samo ich znalezienie jest często najłatwiejszym elementem. Prawdziwym wyzwaniem dla zespołów bezpieczeństwa i inżynierii jest długotrwała walka o całkowitą naprawę ogromnej liczby luk.

Naprawa głębokiej luki oznacza, że zespół bezpieczeństwa musi zidentyfikować odpowiedzialnych za biznes w setkach lub tysiącach mikroserwisów, zrozumieć, które kody lub pliki konfiguracyjne należy zmienić, a następnie przeprowadzić długotrwałe testy manualne, aby upewnić się, że po nałożeniu łaty nie przerwie to działania kluczowego biznesu online.

Jak szczerze zauważył przedstawiciel znanej firmy fintech: "Dzięki różnym narzędziom skanowania AI rzeczywiście możesz szybko znaleźć mnóstwo luk, ale twój zespół inżynieryjny nie jest w stanie naprawić ich w tym samym tempie."

Rzeczywista mapa ścieżki ataku (Validated Attack Path), potwierdzona w praktyce, może znacznie pomóc zespołom inżynieryjnym w ustaleniu priorytetów naprawy. Może jasno pokazać, czy atakujący rzeczywiście może dotrzeć do tego słabego punktu, które warstwy ochrony skutecznie go blokują oraz jakie kluczowe konfiguracje można zmienić, aby zminimalizować ryzyko przy najniższych kosztach rozwoju.

Rysunek: Potwierdzona ścieżka ataku znacznie pomaga zespołom inżynieryjnym skupić się na kluczowych ryzykach.

Wysoki przedstawiciel globalnej platformy bezpieczeństwa sieciowego podsumował tę międzypokoleniową szansę jako "znajdź i napraw" (Fix It With The Find It). Oznacza to, że przyszłe produkty bezpieczeństwa nie mogą ograniczać się do dostarczania długiego raportu o alarmach, ale muszą być w stanie bezpośrednio generować przetestowane kody naprawcze Pull Request, z dokładnym wyjaśnieniem kontekstu zależności.

Firmy, które potrafią doskonale zintegrować wykrywanie luk, automatyczne weryfikacje łańcucha ataków oraz automatyczne naprawy łatek w bezszwowy cykl, zajmą centralną pozycję w tej fali przemysłowej.

Centra operacyjne SOC zyskują na znaczeniu: automatyzacja konkretnego działania

W miarę jak tempo zewnętrznych ataków drastycznie się zwiększa, zespoły analityczne w centrach operacyjnych bezpieczeństwa (SOC) muszą prowadzić dochodzenia i odpowiedzi na incydenty w szybszym tempie. Jednak długoterminowe utrzymanie wysokiego poziomu obrony przez firmy było ograniczone przez poważny niedobór analityków Tier-1 i Tier-2.

Narzędzia SOC natywne AI przejmują wszystkie nudne i monotonne podstawowe zadania. Autonomiczne inteligentne systemy mogą w milisekundach zbierać rozproszone dowody z logów punktów końcowych, sieci i tożsamości, a następnie systematycznie przeprowadzać standardowe kontrole, umożliwiając wysoko wykwalifikowanym analitykom skupienie się na najbardziej groźnych zaawansowanych atakach.

Jednak w praktyce technicznej, przyznanie tym inteligentnym systemom AI odpowiednich uprawnień do zarządzania systemem jest poważną kwestią, którą każdy ostrożny CISO musi rozważyć. Badania pokazują, że obecnie 36% ankietowanych jest gotowych pozwolić inteligentnym systemom na samodzielne prowadzenie skomplikowanych dochodzeń i zbieranie dowodów, ale tylko 13% CISO jest gotowych pozwolić inteligentnym systemom na całkowite samodzielne wykonywanie działań blokujących i modyfikacji kodu w środowisku produkcyjnym.

Rysunek: Badania setek CISO: Rozkład gotowości do samodzielnego przyznawania uprawnień inteligentnym systemom AI w różnych etapach SOC.

Wyszukiwanie powiązanych danych w logach tylko do odczytu, a wydawanie polityki zapory ogniowej lub odłączanie sieci serwera w systemie produkcyjnym to dwie zupełnie różne kategorie działań pod względem ryzyka. Dlatego większość zespołów bezpieczeństwa obecnie woli całkowicie powierzyć złożone i długotrwałe procesy zbierania dowodów inteligentnym systemom, a w przypadku działań blokujących o wysokim ryzyku zdecydowanie zachować potwierdzenie ze strony ludzi (Human-in-the-Loop).

To właśnie dlatego a16z strategicznie inwestuje w Cotool. Cotool umożliwia zespołom bezpieczeństwa firm szybkie pakowanie ich własnych doskonałych doświadczeń w dochodzeniach i wytycznych SOP w autonomiczne inteligentne systemy współpracujące. Te inteligentne systemy mogą bezproblemowo przechodzić przez istniejące narzędzia, aby przeprowadzać triage alarmów, prowadzić dochodzenia w całej sieci i inteligentnie szkicować plany działania, rozwiązując jeden kluczowy przepływ pracy na raz, jednocześnie utrzymując granice bezpieczeństwa i ryzyka, uwalniając ogromną ilość wydajności dla zespołów SOC.

Ochrona wewnętrznych zasobów AI i bezpieczeństwa inteligentnych systemów

Technologia AI głęboko wniknęła w codzienne operacje nowoczesnych firm. Badania pokazują, że aż 92% ankietowanych dużych firm ma pracowników korzystających z narzędzi generatywnych AI w codziennej pracy na poziomie produkcyjnym; 81% firm prowadzi głębokie testy wewnętrzne lub formalnie uruchamia autonomiczne inteligentne systemy AI; a 80% firm uruchomiło produkty interakcyjne generatywne AI skierowane do klientów.

Rysunek: Statystyki dotyczące poziomu penetracji produkcyjnej generatywnego AI i autonomicznych inteligentnych systemów w firmach.

Te wysoko uprawnione wewnętrzne systemy często mają bezprecedensowe przywileje: mogą bezpośrednio przenikać do rdzenia kodu, przeszukiwać niejawne dokumenty firmowe, a nawet działać bezpośrednio między różnymi kluczowymi aplikacjami SaaS. Jak zauważył jeden z menedżerów ds. bezpieczeństwa w dużej instytucji finansowej: "Dziś każdy komputer biurowy pracownika staje się gęsto upakowanym mikrocentrum danych."

Z tego powodu obawy dotyczące bezpieczeństwa wewnętrznego są niezwykle istotne. W badaniach 47% CISO uznało ujawnienie wewnętrznych danych wysokiego ryzyka do niekontrolowanych narzędzi AI jako największy koszmar; 41% respondentów nie może spać z powodu obaw przed nieautoryzowanymi operacjami przeprowadzanymi przez wysoko uprawnione wewnętrzne inteligencje AI lub atakami typu Prompt Injection, które mogą prowadzić do systemowych katastrof związanych z przestrzeganiem przepisów.

Rysunek: Badanie 100 CISO: Najważniejsze zagrożenia związane z bezpieczeństwem przy wdrażaniu wewnętrznych zasobów AI.

Dla znacznej części dużych przedsiębiorstw powyższe nierozwiązane zagrożenia bezpieczeństwa obiektywnie spowolniły tempo innowacji biznesowych. Aż 63% CISO przyznało, że ostrożne rozważania dotyczące zgodności z przepisami w różnym stopniu opóźniły pełne wdrożenie przynajmniej części pilotażowych projektów AI w firmach.

Zespoły ds. bezpieczeństwa pilnie potrzebują kompleksowego centrum radarowego: aby na bieżąco monitorować, jakie narzędzia i inteligencje AI działają w sieci firmy, kto jest ich właścicielem biznesowym, jakie mają przyznane uprawnienia dostępu do systemu oraz jakie działania wykonują w każdej sekundzie.

Jednak aby precyzyjnie dostrzegać te mikrodziałania, wyzwania technologiczne są znacznie bardziej brutalne, niż się wydaje. Nowoczesne autonomiczne inteligencje często działają bezpośrednio na lokalnych komputerach pracowników i w pełni dziedziczą ich wysokie uprawnienia dostępu. Dla tradycyjnych systemów monitorowania bezpieczeństwa opartych na granicach sieci lub API w chmurze, różne operacje inicjowane przez inteligencje wyglądają jak legalne kliknięcia myszką pracownika.

To właśnie dlatego zainwestowaliśmy znaczne środki w Neo. Zespół założycielski Neo wcześniej kierował tworzeniem rdzenia bezpieczeństwa punktów końcowych w gigantach SentinelOne, a teraz koncentrują się na nowym paradygmacie zdominowanym przez masowe inteligencje AI, całkowicie przekształcając warstwę obrony bezpieczeństwa punktów końcowych, aby precyzyjnie uchwycić każdy ruch inteligencji, tworząc solidną barierę między bezpieczeństwem zgodności a efektywnością innowacji.

Ryzyko związane z "ludźmi" przechodzi ewolucję na poziomie AI

Mimo że luki w podstawach i ataki maszynowe stają się coraz bardziej wyrafinowane, najsłabszym i najtrudniejszym do obrony ogniwem w linii obrony cybernetycznej pozostaje sam człowiek. Co zabawne, do dziś "123456" wciąż zajmuje pierwsze miejsce na liście najczęściej używanych słabych haseł w globalnych firmach.

Rozwój AI przekształca tradycyjne ataki socjotechniczne i oszustwa tożsamości w przerażający wymiar przemysłowej, precyzyjnej fałszywości. Fałszywy e-mail phishingowy może być tak skonstruowany, że nie różni się od stylu pisania współpracownika; telefon głosowy może w czasie rzeczywistym sklonować głos i oddech bezpośredniego przełożonego; nawet uczestnicy zdalnej wideokonferencji mogą być przedstawiani jako członkowie zarządu, z którymi spędzasz codziennie czas.

Kiedy Brian Long, założyciel Adaptive Security, przybył do biura a16z na prezentację finansową, pokazał wszystkim partnerom dwa zdjęcia Elona Muska, które wyglądały na identyczne, i poprosił nas o zgadnięcie, które z nich jest prawdziwe.

Rysunek: Testy fałszywych e-maili Adaptive Security: trudno odróżnić prawdziwe zdjęcie od głębokiej fałszywki AI.

Zaskakujące jest to, że większość doświadczonych inwestorów technologicznych zgadła źle.

Ta scena wyraźnie ukazuje kryzys zaufania do tożsamości, z którym borykają się obecnie przedsiębiorstwa: nowoczesne oszustwa socjotechniczne całkowicie porzuciły fazę podstawowej fałszywości, w której występowały błędy gramatyczne i dziwne końcówki adresów e-mail. Nawet pracownik, który przeszedł rygorystyczne szkolenie w zakresie poufności i codziennie jest bardzo czujny, może łatwo zostać pokonany przez błyskawiczne, bezszwowe naśladownictwo głosu i twarzy.

Ten moment utwierdził nas w przekonaniu, że tradycyjne statyczne testy zgodności pracowników i prymitywne symulacje phishingowe muszą przejść całkowitą rewolucję AI. Adaptive wykorzystuje generatywne modele dużych rozmiarów, aby na bieżąco dostosowywać do pracowników przedsiębiorstw realistyczne, dynamiczne ćwiczenia z głęboką fałszywką, które łączą się z konkretnym kontekstem biznesowym, fundamentalnie przekształcając odporność pracowników w erze AI.

Jeszcze poważniejsze wyzwanie nie polega tylko na realizmie fałszywych działań, ale także na tym, że koszty fałszywych działań zostały zredukowane do zera, co prowadzi do eksplozji skali ataków. Atakujący wystarczy wpisać jedną linię polecenia, aby natychmiast wygenerować tysiące dostosowanych wariantów ataków phishingowych dla różnych pracowników w różnych działach, co prowadzi do całkowitej klęski tradycyjnych strategii obronnych opartych na słowach kluczowych i czarnych listach.

Ogromna ilość kodu wciąż napływa, a progi bezpieczeństwa kodu rosną

W złożonym łańcuchu dostaw inżynierii oprogramowania, nawet jeśli masz pełne zaufanie do kodu napisanego przez swój zespół, wystarczy, że polegasz na komponentach open source lub usługach stron trzecich, które mają jedną śmiertelną lukę, a cały budynek bezpieczeństwa może się w mgnieniu oka zawalić. Ostatnie ujawnienie poważnych incydentów przejęcia łańcucha dostaw jest brutalnym przypomnieniem tej słabości.

Bezpieczeństwo kodu nigdy nie było nowym obszarem; przez dziesięciolecia średnie i duże przedsiębiorstwa wydają corocznie ogromne sumy na narzędzia do analizy statycznego kodu (SAST) i analizy składników oprogramowania (SCA). Jednak wraz z szerokim wprowadzeniem narzędzi wspomagających programowanie AI, takich jak Cursor i GitHub Copilot, cała wydajność produkcji oprogramowania została całkowicie przekształcona, a ilość nowego kodu w repozytoriach przedsiębiorstw rośnie w geometrycznym tempie.

Ogromna ilość kodu napływa, podczas gdy liczba inżynierów ds. bezpieczeństwa w firmach nie może się równocześnie podwoić. Dlatego wśród 100 CISO, których badaliśmy, blisko połowa (48%) zdecydowanie uznała bezpieczeństwo kodu AI za jeden z pięciu kluczowych priorytetów na 2027 rok, co stanowi prawie podwojenie w porównaniu do lat ubiegłych.

Jak zauważył CISO jednej z dużych instytucji finansowych: "Liczba inżynierów zajmujących się tworzeniem kodu biznesowego, którzy codziennie pracują przy klawiaturze, znacznie przewyższa liczbę osób odpowiedzialnych za przegląd bezpieczeństwa kodu."

Wzrost popytu, ale platformowe giganty wciąż mają pierwszeństwo

Mimo że priorytety obrony ulegają drastycznym zmianom, a nowe budżety zakupowe są masowo uwalniane, w rzeczywistej linii decyzyjnej zakupów, starzy platformowi giganci wciąż mają dominującą pozycję w pierwszej kolejności zapytań cenowych.

Gdy zapytano, do kogo CISO zwróciłby się w pierwszej kolejności w celu wdrożenia nowych zdolności bezpieczeństwa AI w firmie, aż 44% z nich rutynowo oddało swój głos na już zakupionych dostawców platformowych, mając nadzieję na spełnienie potrzeb poprzez bezproblemową aktualizację funkcji w istniejących zestawach.

Jak bezpośrednio zauważył jeden z menedżerów z listy Fortune 500: "Ufam CrowdStrike. Ma niezachwianą reputację w zakresie bezpieczeństwa i sprawdzoną wiarygodność w praktyce."

Jednak pierwszy telefon często nie oznacza ostatecznego miejsca zamówienia. Kiedy dalej pytaliśmy, co skłoniłoby decydentów ds. bezpieczeństwa do ominięcia starych gigantów i zakupu produktów nowych startupów, dane z badań dostarczyły przenikliwych odpowiedzi biznesowych.

Rysunek: Badanie 100 CISO: Kluczowe czynniki skłaniające przedsiębiorstwa do wyboru produktów startupów poza istniejącymi gigantami.

Aż 61% CISO wyraźnie stwierdziło, że jeśli startupy mogą dostarczyć nowe kluczowe zdolności, które są całkowicie brakujące w ofercie starych gigantów, będą zdecydowanie otwierać specjalne budżety na zakupy; jednocześnie 49% nabywców uznało wyjątkową wydajność produktów startupów za decydujący punkt przełomowy.

W większości rzeczywistych scenariuszy, duże przedsiębiorstwa kupujące nowoczesne produkty bezpieczeństwa startupów nie mają na celu całkowitego zastąpienia istniejących platform, lecz precyzyjne włączenie nowoczesnych narzędzi w pobliżu istniejących linii obrony, aby wypełnić technologiczną lukę, której tradycyjne zestawy nie mogą zaspokoić.

Hałas rynkowy komplikuje decyzje zakupowe

Patrząc na obecny ekosystem bezpieczeństwa AI w przedsiębiorstwach, setki nowych startupów pojawiają się jak grzyby po deszczu, twierdząc, że mogą zapewnić w pełni autonomiczną obronę, błyskawiczne śledzenie alarmów i całkowite uwolnienie zasobów ludzkich w jednym kroku.

Na panoramie wystawców na szczycie Black Hat 2026, ten intensywny wyścig został doskonale przedstawiony: w niektórych segmentach AI bezpieczeństwa wzięło udział aż 43 konkurentów, co prowadzi do poważnej homogeniczności koncepcji marketingowych i zamieszania w pozycjonowaniu.

Przedsiębiorcy zmuszeni są poświęcać ogromne ilości czasu na weryfikację prawdziwości produktów w gąszczu hałasu rynkowego i bombardowania sprzedażowego: w jakim stopniu produkty mogą rzeczywiście wykonać brudną robotę bez nadzoru? Ile razy zespół analityków ludzkich będzie musiał interweniować? Jakie uprawnienia operacyjne ma inteligencja w środowisku produkcyjnym? A jeśli dojdzie do błędnej oceny, czy system może dostarczyć jasne drzewo decyzji, które można poddać audytowi?

CISO jednego z globalnych gigantów odzieżowych opisał nam męczący proces selekcji swojego zespołu: przeszli przez siedem lub osiem podobnych konkurentów, aby ostatecznie wybrać tylko trzy do głębokich testów. Jak powiedział: "Wszystkie produkty wyglądają idealnie w prezentacjach PowerPoint, ale tylko wtedy, gdy naprawdę podłączysz je do chaotycznych rzeczywistych systemów biznesowych, możesz zobaczyć, kto jest koniem, a kto osłem."

Jeszcze bardziej skomplikowane jest to, że techniczne standardy porównawcze również podlegają intensywnej ewolucji. Nowe zespoły startupowe wciąż wchodzą na rynek, a granice możliwości istniejących produktów zmieniają się co miesiąc, podczas gdy każda nowa ewolucja wydajności podstawowych modeli dużych rozmiarów ponownie poddaje istniejące produkty surowym testom.

Jak wyraził to inny menedżer ds. bezpieczeństwa w dużym przedsiębiorstwie: "Nie chcę w firmie kupować niekończącej się liczby izolowanych, niepowiązanych narzędzi punktowych."

Jednak należy dostrzec, że ta obiektywna ostrożność i powściągliwość nie tylko nie stłumiły wysokiego zapotrzebowania na prawdziwe, twarde technologie bezpieczeństwa, ale wręcz współistnieją z rosnącą dynamiką zakupów. Zespoły bezpieczeństwa w dużych międzynarodowych firmach z niespotykaną pilnością starają się uzyskać specjalne budżety zakupowe, intensywnie prowadzą projekty pilotażowe i włączają pierwsze produkty, które przeszły testy w praktyce, do codziennego użytku.

Przyszłość i perspektywy

W naszej pamięci nie było żadnej fali technologicznej, która mogłaby w tak szybkim tempie, w tak całkowity i dalekosiężny sposób, przekształcić agendę bezpieczeństwa cybernetycznego w czołowych amerykańskich i globalnych przedsiębiorstwach jak AI.

Budżety są znacznie zwiększane, zespoły są równolegle rozbudowywane, a wizja i ambicje zespołów obronnych nie ograniczają się już do tradycyjnych stref komfortu bezpieczeństwa wyznaczonych przez platformy.

To właśnie teraz mamy złoty okres dla wielkich startupów w dziedzinie cyberbezpieczeństwa. Na najnowocześniejszym froncie walki z AI, audytach bezpieczeństwa agentów oraz nowej autonomicznej naprawie, tradycyjne, masywne korporacje jeszcze nie zdążyły w pełni zareagować, podczas gdy bystrzy liderzy bezpieczeństwa w firmach już nie mogą się doczekać, aby otworzyć drzwi i wprowadzić silniejsze nowe siły do najgłębszych okopów.

Wierzymy, że w związku z tą bezprecedensową rewolucją w paradygmacie ataków i obrony, nowi giganci branży cyberbezpieczeństwa przyspieszają swoje narodziny na tej żyznej ziemi. Będą one ściśle związane z nowymi zdolnościami bezpieczeństwa, które dopiero zaczynają się rozwijać w firmach, budując wielką linię obrony, która będzie chronić globalną cywilizację cyfrową przez następne dziesięciolecia.

Szczególne podziękowania: Dziękujemy Zane Lackey, Joel de la Garza oraz David George za ich znakomity wkład w badania i analizy zawarte w tym artykule.

Zastrzeżenie: Cała zawartość tego długiego artykułu ma charakter wyłącznie informacyjny i nie może być traktowana jako formalna podstawa do jakichkolwiek decyzji prawnych, biznesowych, inwestycyjnych lub podatkowych. Niektóre z wymienionych inwestycji są przedsiębiorstwami, w które zainwestowały fundusze należące do a16z; pełne portfolio inwestycyjne oraz ujawnienie kluczowych interesów można znaleźć na oficjalnej stronie.