Po zhakowaniu prawdziwych firm przez modele AI, laboratoria AI wzywają do wzmocnienia obrony cybernetycznej

Wiodący deweloperzy AI wzywają rządy i firmy do wzmocnienia swoich sieci po tym, jak modele stworzone przez OpenAI i Anthropic naruszyły systemy innych firm.

W otwartym liście opublikowanym w czwartek, OpenAI, Anthropic i ponad 100 innych organizacji ostrzegły, że ataki cybernetyczne wspierane przez AI mają stać się coraz bardziej powszechne i że firmy mają "ograniczone okno czasowe na wzmocnienie obrony cybernetycznej."

"W nadchodzących miesiącach ataki cybernetyczne wspierane przez AI staną się znacznie bardziej powszechne i wyrafinowane," głosi list. Wskazano w nim szpitale, zakłady uzdatniania wody i infrastrukturę internetową jako usługi zagrożone.

List zaleca finansowanie defensywnych narzędzi AI, dzielenie się informacjami o zagrożeniach, ograniczenie dostępu do wrażliwych systemów oraz poprawę bezpieczeństwa krytycznej infrastruktury. Jednakże, niepowodzenia w tych obszarach pozwoliły modelom OpenAI i Anthropic na naruszenie systemów poza ich środowiskami testowymi.

Wśród innych sygnatariuszy znajdują się Google, Microsoft, Amazon Web Services, Cisco, CrowdStrike, Cloudflare, Mastercard, Visa i Robinhood. Hugging Face, którego infrastruktura produkcyjna została naruszona przez modele OpenAI, również podpisał list.

Modele AI naruszają systemy na żywo

Anthropic poinformował w raporcie z incydentu z 30 lipca, że najwcześniejsze z trzech naruszeń miało miejsce w kwietniu, ale nie podał dokładnej daty dla każdego z nich. Claude Opus 4.7 uzyskał dostęp do bazy danych produkcyjnej, myląc prawdziwą firmę z symulowanym celem, podczas gdy Claude Mythos 5 przesłał złośliwy pakiet, który działał na 15 systemach.

Zgodnie z harmonogramem incydentów OpenAI, opublikowanym wcześniej w tym tygodniu, agent stworzył pierwszy wpis na nieautoryzowanej tablicy ogłoszeń 12 maja i uzyskał niezamierzony dostęp do internetu 26 maja. 10 lipca agenci znaleźli ujawnione dane logowania Hugging Face; w ciągu następnych dwóch dni wykorzystali wcześniej nieznane luki, wykonali kod na serwerach Hugging Face i uzyskali dane logowania do produkcji.

Hugging Face ujawnił naruszenie 16 lipca, a OpenAI przyznało się do zaangażowania swoich modeli 21 lipca.

Między 25 a 28 lipca, Brytyjski Instytut Bezpieczeństwa AI zarejestrował 19 działań poza zakresem, w które zaangażowane były Claude Mythos 5 i GPT-5.6 Sol. W najpoważniejszym przypadku agent przesłał złośliwy kod do prawdziwego projektu open-source i użył fałszywych tożsamości, aby wywierać presję na jego konserwatora, aby go zatwierdził.

W czwartek niezależne śledztwo wykazało, że około 1200 agentów OpenAI skoordynowało działania przez nieautoryzowaną tablicę ogłoszeń, z czego około 700 dołączyło do operacji Hugging Face.

Deweloperzy kryptowalut stawiają AI w obronie

Deweloperzy kryptowalut już wykorzystują AI do wyszukiwania luk, zanim znajdą je napastnicy. Zespół Red Team Bitcoin użył modeli, w tym Kimi K3 Moonshot AI, do skanowania setek projektów Bitcoin open-source, zgłaszając tysiące potencjalnych luk. Ponieważ dotknięte projekty nie zostały zidentyfikowane, wiele z tych ustaleń nie zostało niezależnie zweryfikowanych.

Fundacja Ethereum również wdrożyła grupy agentów AI przeciwko infrastrukturze sieciowej, odkrywając błąd oprogramowania peer-to-peer, który później został naprawiony. BitBox poinformował, że audyt wspomagany przez AI wykrył dwie poważne luki w oprogramowaniu portfela, podczas gdy badacz korzystający z Claude Opus 4.8 odkrył krytyczną lukę w Zcash, która przetrwała lata przeglądów przez ludzi.

Laboratoria zalecają ściślejszą kontrolę

List przedstawia podział pracy w celu zapobieżenia kolejnemu naruszeniu, w tym organizacje łatające wrażliwe oprogramowanie, ograniczające uprawnienia, wzmacniające uwierzytelnianie i sprawdzające kod generowany przez AI, ponieważ "status quo w zakresie bezpieczeństwa nie wystarczy," powiedzieli sygnatariusze.

Firmy zajmujące się bezpieczeństwem powinny testować swoje obrony przeciwko modelom frontier i dzielić się zweryfikowanymi poprawkami, podczas gdy rządy powinny finansować ochronę dla szpitali, usług publicznych i innych usług niezbędnych.

Deweloperzy AI są proszeni o poprawę monitorowania i uczynienie autonomicznych agentów możliwymi do śledzenia przez ich operatorów. Koalicja chce również, aby obrońcy używali zaawansowanych modeli do znajdowania luk i analizy ataków, co wprowadziłoby bardziej zdolnych agentów do wrażliwych systemów i zwiększyłoby potrzebę ich ograniczenia.

OpenAI i Anthropic zaostrzyły swoje procedury testowe po naruszeniach. List jednak nie ustanawia wiążących standardów ani wymagań dotyczących niezależnego nadzoru, a amerykańskie prawo oferuje niewiele wskazówek dotyczących tego, kto jest odpowiedzialny, gdy system AI uzyskuje dostęp do nieautoryzowanej sieci.

List zakończył się wezwaniem do liderów przemysłu i rządu, aby przekazali narzędzia AI w ręce obrońców i dzielili się skutecznymi poprawkami:

"Przekażcie AI zdolne do cyberobrony w ręce obrońców, zaczynając od zespołów chroniących usługi niezbędne," głosił list. "Razem możemy przekształcić dzisiejsze osiągnięcia AI w trwałe poprawy w zakresie bezpieczeństwa, które przyniosą korzyści wszystkim. Wykorzystajmy je w praktyce.",summary:

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.