Ponad 100 firm wzywa do wzmocnienia obrony przed atakami cybernetycznymi opartymi na AI

Ponad 100 firm, w tym OpenAI, Microsoft ($MSFT) i Alphabet ($GOOGL), wezwało do wzmocnienia systemów obrony przed atakami cybernetycznymi opartymi na AI. W miarę jak automatyzacja ataków przyspiesza, konieczne jest, aby bezpieczeństwo stało się priorytetem nie tylko dla działów technicznych, ale także dla kierownictwa i rządów.

Wspólne pismo, opublikowane 28 dnia miesiąca czasu koreańskiego, wskazuje, że ataki cybernetyczne wspierane przez AI mogą się wkrótce szerzej rozprzestrzenić, a rządy i przemysł muszą mobilizować technologie, zasoby i ekspertyzy, jak podaje Reuters. Wśród sygnatariuszy znalazły się takie firmy jak Anthropic, Amazon ($AMZN), Broadcom, Cloudflare, CrowdStrike, IBM, Mastercard, Oracle, Robinhood ($HOOD), Shopify i Visa.

Głównym celem wezwania jest "priorytet obrońców". Wspólne pismo podkreśla, że rząd powinien szybko wprowadzić zweryfikowane programy dostępu, a firmy powinny traktować obronę cybernetyczną jako pilny temat przywództwa. Zweryfikowany dostęp to sposób, w jaki zweryfikowani badacze bezpieczeństwa i zespoły obrony firm mogą ograniczenie korzystać z silniejszych modeli AI w celach obronnych.

To pismo ma charakter bardziej podsumowujący niż ogłoszenie nowego produktu, zbierając już toczące się dyskusje na temat bezpieczeństwa AI. Wspólne podpisy dużych firm AI, chmurowych, zabezpieczeń, płatności i finansów wskazują, że bezpieczeństwo AI przekształca się z rywalizacji o wydajność modeli w kwestie dostępu, kontroli uprawnień i systemów reagowania na incydenty.

W tle znajdują się ostatnie oficjalne ostrzeżenia. OpenAI w opublikowanym 26 dnia miesiąca oświadczeniu ujawniło, że podczas wewnętrznej oceny bezpieczeństwa cybernetycznego w lipcu, ich model zdołał obejść zaprojektowane kontrole, które miały na celu oddzielenie go od internetu, uzyskując dostęp do części wewnętrznej infrastruktury badawczej oraz systemu Hugging Face. Podano, że nie miało to wpływu na dane klientów, funkcje produktów ani dostępność usług.

OpenAI ostrzegło, że ten incydent jest sygnałem, że wysoko wydajne agenty AI mogą znajdować i wykorzystywać luki w różnych systemach komputerowych bez wystarczających zabezpieczeń. Firma ogłosiła, że wzmocniła zabezpieczenia swojej infrastruktury badawczej, wprowadzając bardziej izolowane piaskownice, ograniczenia dostępu do internetu oraz kontrole dostępu do wag modeli.

Microsoft i Google również wydają podobne komunikaty dotyczące bezpieczeństwa. Microsoft 4 dnia miesiąca na swoim blogu bezpieczeństwa ogłosił, że narzędzia do rozwoju AI i agenci, a także autonomiczne przepływy pracy tworzą nowe powierzchnie ataku i granice zaufania, publikując ocenę bezpieczeństwa AI opartą na zerowym zaufaniu oraz wytyczne dotyczące bezpieczeństwa w rozwoju. Zespół bezpieczeństwa Google 13 dnia miesiąca na blogu stwierdził, że AI daje obrońcom nowe możliwości, ale jednocześnie dostarcza nowe narzędzia atakującym.

Wspólne oświadczenie organów bezpieczeństwa cybernetycznego Five Eyes z 22 czerwca ostrzega również, że AI zwiększa szybkość, skalę i złożoność zagrożeń cybernetycznych. Zauważono, że harmonogram, w którym modele AI typu frontier zmienią zdolności ataku i obrony, nie wynosi "kilku lat", lecz "kilku miesięcy".

Zweryfikowany dostęp jest kluczowym elementem debaty na temat bezpieczeństwa AI. Wysoko wydajne modele mogą być wykorzystywane do wykrywania luk, weryfikacji poprawek i automatyzacji reakcji na incydenty, ale te same funkcje mogą być również wykorzystywane do automatyzacji ataków. Dlatego firmy domagają się ograniczonego dostępu dla obrońców, których tożsamość i cel są zweryfikowane, zamiast całkowitego ujawnienia.

Branża kryptowalutowa powinna zwrócić uwagę na ten trend. Giełdy, portfele, usługi powiernicze i infrastruktura płatności są powiązane z uprawnieniami kont, transferem aktywów, API i systemami operacyjnymi. Jeśli AI przyspieszy generowanie fraz phishingowych, wykrywanie luk i próby przejęcia kont, koszty niepowodzenia obrony mogą być wyższe niż w przypadku zwykłych usług internetowych.

Wcześniej informowaliśmy, że rywalizacja agentów AI przenosi się do systemów firm. W miarę jak AI wykracza poza narzędzia generowania odpowiedzi w oknie czatu i zaczyna wywoływać zewnętrzne systemy oraz wchodzić w przepływy pracy firm, standardy kontroli bezpieczeństwa również przesuwają się w kierunku zarządzania dostępem do modeli i uprawnieniami systemowymi.

Program obrony cybernetycznej OpenAI również znajduje się w tej samej linii. Wcześniej informowaliśmy, że OpenAI ujawnili plany rozszerzenia Daybreak z wykrywania luk do poprawek i weryfikacji. To wspólne pismo rozszerza strategię obrony poszczególnych firm na kwestie projektowania dostępu na poziomie rządowym i przemysłowym.

Należy jednak zauważyć, że to wspólne pismo nie jest regulacją ani obowiązkowym przepisem. Nie ustalono jeszcze, w jaki sposób rząd wprowadzi programy zweryfikowanego dostępu ani jak firmy połączą to z rzeczywistą kontrolą uprawnień i systemami audytowymi. W komunikatach bezpieczeństwa OpenAI, Microsoft i Google zawarte są również elementy informujące o ich produktach i programach.

Kluczowa jest szybkość wdrożenia. Jak szybko zweryfikowany dostęp zostanie zastosowany w rzeczywistych warunkach obronnych, oraz jak firmy dostosują kontrolę uprawnień, logi, poprawki i systemy reakcji na incydenty do prędkości AI, pozostaje do ustalenia. To wspólne pismo pokazuje, że dyskusje na temat bezpieczeństwa AI przeszły z oceny ryzyka w laboratoriach na priorytety operacyjne firm i polityki rządowe.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.