Bezpieczeństwo AI staje się rynkiem wartym miliardy dolarów i przyciąga 100 mln USD

Wyścig w celu ochrony modeli sztucznej inteligencji przed atakami zyskał właśnie kolejny istotny rozdział. HiddenLayer, startup z Austin skoncentrowany na bezpieczeństwie modeli, agentów i przepływów pracy AI, zamknął rundę finansowania serii B na kwotę 100 milionów USD, prowadzoną przez Delta-v Capital, z udziałem takich firm jak Morgan Stanley, M12 (oddział venture Microsoftu) oraz Booz Allen Hamilton.

Inwestycja odzwierciedla coś, co dane już sygnalizowały. Według szacunków Gartnera, firmy powinny wydać 2,83 miliarda USD na produkty zabezpieczające narzędzia AI w 2026 roku, co stanowi wzrost o 83% w porównaniu do roku poprzedniego. Oczekuje się, że ta kwota zbliży się do 4,78 miliarda USD już w 2027 roku.

Trzy lata temu, kiedy HiddenLayer zebrał swoją rundę A na 50 milionów USD, głównym pytaniem było, czy ryzyko związane z systemami AI rzeczywiście materializuje się w wystarczającej skali, aby uzasadnić dedykowany rynek. Odpowiedź przyszła szybciej, niż wielu się spodziewało.

CEO i współzałożyciel HiddenLayer, Chris Sestito, ujawnił, że roczny przychód powtarzalny startupu wzrósł ponad dziesięciokrotnie w ciągu ostatnich 12 miesięcy. Chociaż nie ujawniono dokładnej liczby, stwierdził, że ARR wynosi teraz „dziesiątki milionów dolarów”. Ponad 90% tego wzrostu pochodziło od nowych klientów, którzy podpisali umowy w ostatnim roku.

Największymi sektorami firmy są instytucje finansowe i duże firmy technologiczne, które budują produkty AI. Startup ma również umowy z Departamentem Obrony i społecznością wywiadowczą Stanów Zjednoczonych. Wśród jego klientów znajduje się „wiodący dostawca modeli granicznych” z „ponad 700 milionami użytkowników tygodniowo”, co wskazuje na jedną z dużych nazw w branży.

Dla tych, którzy śledzą ekosystem technologiczny, ten wzrost sygnalizuje, że bezpieczeństwo AI przestało być spekulacyjną niszą i ugruntowało się jako niezbędna infrastruktura.

Portfolio HiddenLayer koncentruje się na czterech filarach: odkrywaniu modeli, ochronie w czasie rzeczywistym, symulacji ataków i bezpieczeństwie łańcucha dostaw. Różnica w porównaniu do 2023 roku dotyczy zakresu. Startup musiał rozszerzyć każdy z tych produktów, aby pokryć zagrożenia takie jak wstrzykiwanie poleceń, manipulacja autonomicznymi agentami i złośliwe wykorzystanie narzędzi połączonych z modelami.

„Wnioskowanie wciąż jest wnioskowaniem. Niezależnie od tego, czy jest to model tradycyjnego uczenia maszynowego, AI generatywnej czy przepływ pracy agenta, wiele z naszej technologii wciąż ma zastosowanie. Nie musimy zmieniać kierunku, ale musimy rozszerzyć nasz zakres,” wyjaśnił Sestito.

Ochrona w czasie rzeczywistym stała się priorytetem. Sestito porównał rozwiązanie do tradycyjnych narzędzi wykrywania i odpowiedzi na końcówkach (EDR), ale zastosowanych specjalnie w świecie AI. To analogia, która ma sens: tak jak końcówki potrzebowały dedykowanej ochrony w erze chmury obliczeniowej, modele AI wymagają stałej kontroli przed manipulacjami i nieoczekiwanymi zachowaniami w produkcji.

Jednym z najważniejszych punktów poruszonych przez HiddenLayer są modele open source. Startup analizuje i skanuje około 50 różnych frameworków plików AI, aby upewnić się, że narzędzie, którego używa programista, jest dokładnie tym, czym się wydaje.

„Widzimy modele, które przedstawiają się jako coś, ale są czymś innym. Modele ukryte w modelach,” powiedział Sestito. Ten rodzaj zagrożenia jest szczególnie istotny, ponieważ adopcja modeli open source wzrosła w szybkim tempie. Platformy takie jak Hugging Face hostują tysiące modeli, które każdy programista może pobrać i zintegrować ze swoimi systemami.

Ryzyko nie jest hipotetyczne. W miarę jak firmy integrują modele osób trzecich w krytyczne przepływy biznesowe, weryfikacja integralności tych modeli staje się tak samo ważna jak audyt kodu w tradycyjnych bibliotekach oprogramowania. To problem analogiczny do tego, z którym ekosystem inteligentnych kontraktów w DeFi zmaga się z zależnościami kodu, które nie zostały poddane audytowi.

HiddenLayer nie jest sama na tym rynku. Startupy takie jak Noma i Zenity zebrały już po ponad 100 milionów USD każda, aby zająć się pokrewnymi lub nakładającymi się obszarami bezpieczeństwa AI. W tym samym czasie giganci cyberbezpieczeństwa, tacy jak Cisco, Palo Alto Networks i Check Point, historycznie wolą przejmować mniejsze firmy, zamiast budować rozwiązania od podstaw.

Sestito przyznał, że niektóre funkcje, które oferuje HiddenLayer, mogą ostatecznie zostać włączone do platform firm takich jak Microsoft, OpenAI i AWS. Niemniej jednak uważa, że infrastruktura AI tych platform będzie bardziej skierowana w stronę zasobów zarządzania, tożsamości i kontroli polityki, niż w stronę rodzaju ochrony w czasie rzeczywistym, którą buduje jego firma.

Środki z serii B będą głównie skierowane na sprzedaż i dystrybucję, a także na ekspansję do Europy i regionu EMEA. Zespół inżynieryjny i badawczy również powinien się powiększyć, ale priorytetem jest teraz komercjalizacja tego, co już działa.

Skok inwestycji w bezpieczeństwo AI odzwierciedla znany wzór w cyklach adopcji technologii. Najpierw następuje wyścig do wdrożenia. Następnie wyścig do ochrony. Tak było z chmurą obliczeniową, urządzeniami mobilnymi, infrastrukturą blockchain. Teraz dzieje się to z AI.

Różnica polega na szybkości. Rynek bezpieczeństwa w chmurze potrzebował prawie dekady, aby dojrzeć. Rynek bezpieczeństwa AI formuje się w ciągu dwóch lub trzech lat, napędzany przyspieszoną adopcją korporacyjną modeli generatywnych i autonomicznych agentów.

Dla inwestorów i menedżerów technologii przesłanie jest jasne: koszty bezpieczeństwa nie są opcjonalne. Przybywają razem z wdrożeniem. A ten, kto rozwiąże ten problem jako pierwszy, na dużą skalę, zdobędzie istotny kawałek rynku, który powinien przekroczyć 4,7 miliarda USD do 2027 roku.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.