Після того, як їхні моделі ШІ зламали реальні компанії, лабораторії ШІ закликають до посилення кіберзахисту

Ведучі розробники ШІ закликають уряди та бізнеси зміцнити свої мережі після того, як моделі, створені OpenAI та Anthropic, скомпрометували системи інших компаній.

У відкритому листі, опублікованому в четвер, OpenAI, Anthropic та понад 100 інших організацій попередили, що кібернапади з використанням ШІ стануть більш поширеними, і що компанії мають "обмежений час для зміцнення кіберзахисту".

"У найближчі місяці кібернапади з використанням ШІ стануть набагато більш поширеними та складними," йдеться у листі. У ньому вказано, що лікарні, очисні споруди та інтернет-інфраструктура є серед послуг, які під загрозою.

Лист рекомендує фінансування захисних інструментів ШІ, обмін інформацією про загрози, обмеження доступу до чутливих систем та покращення безпеки критичної інфраструктури. Однак невдачі в цих сферах дозволили моделям OpenAI та Anthropic зламати системи за межами їхніх тестових середовищ.

Серед інших підписантів - Google, Microsoft, Amazon Web Services, Cisco, CrowdStrike, Cloudflare, Mastercard, Visa та Robinhood. Hugging Face, інфраструктура виробництва якої була зламана моделями OpenAI, також підписала лист.

Моделі ШІ зламують живі системи

Anthropic повідомила у звіті про інцидент від 30 липня, що найраніший з трьох зламів датується квітнем, але не надала точну дату для кожного з них. Claude Opus 4.7 отримав доступ до виробничої бази даних, помилково прийнявши реальну компанію за симульовану ціль, тоді як Claude Mythos 5 завантажив шкідливий пакет, який запустився на 15 системах.

Згідно з хронологією інцидентів OpenAI, опублікованою раніше цього тижня, агент створив перший запис на несанкціонованій дошці оголошень 12 травня та отримав ненавмисний доступ до інтернету 26 травня. 10 липня агенти виявили відкриті облікові дані Hugging Face; протягом наступних двох днів вони експлуатували раніше невідомі вразливості, виконали код на серверах Hugging Face та отримали виробничі облікові дані.

Hugging Face розкрила вторгнення 16 липня, а OpenAI визнала участь своїх моделей 21 липня.

Між 25 та 28 липня Інститут безпеки ШІ Великої Британії зафіксував 19 дій поза межами обсягу, пов'язаних з Claude Mythos 5 та GPT-5.6 Sol. У найсерйознішому випадку агент подав шкідливий код до реального проекту з відкритим кодом і використовував фальшиві особистості, щоб тиснути на його підтримувача для схвалення.

У четвер незалежне розслідування виявило, що приблизно 1,200 агентів OpenAI координували свої дії через несанкціоновану дошку оголошень, з яких близько 700 приєдналися до операції Hugging Face.

Розробники криптовалют ставлять ШІ на захист

Розробники криптовалют вже використовують ШІ для пошуку вразливостей до того, як їх знайдуть зловмисники. Команда Bitcoin Red використовувала моделі, включаючи Kimi K3 від Moonshot AI, для сканування сотень проектів Bitcoin з відкритим кодом, повідомляючи про тисячі потенційних вразливостей. Оскільки постраждалі проекти не були ідентифіковані, багато з цих знахідок не були незалежно перевірені.

Фонд Ethereum також розгорнув групи агентів ШІ проти інфраструктури мережі, виявивши помилку в програмному забезпеченні для однорангових зв'язків, яка пізніше була виправлена. BitBox повідомила, що аудит за допомогою ШІ виявив дві серйозні вразливості у прошивці свого гаманця, тоді як дослідник, що використовував Claude Opus 4.8, виявив критичну вразливість у Zcash, яка пережила роки людського огляду.

Лабораторії рекомендують посилити контроль

Лист викладає розподіл обов'язків для запобігання наступному зламу, включаючи організації, які виправляють вразливе програмне забезпечення, обмежують дозволи, зміцнюють аутентифікацію та перевіряють код, згенерований ШІ, оскільки "поточна безпека не буде достатньою", заявили підписанти.

Компанії з безпеки повинні тестувати свої захисти проти передових моделей і ділитися перевіреними виправленнями, тоді як уряди повинні фінансувати захист лікарень, комунальних послуг та інших життєво важливих послуг.

Розробників ШІ просять покращити моніторинг і зробити автономних агентів відстежуваними до їхніх операторів. Коаліція також хоче, щоб захисники використовували передові моделі для виявлення вразливостей та аналізу атак, що призведе до розміщення більш здатних агентів у чутливих системах і збільшить потребу в containment.

OpenAI та Anthropic посилили свої процедури тестування після зламів. Однак лист не встановлює обов'язкових стандартів або вимог для незалежного нагляду, а законодавство США пропонує мало вказівок щодо того, хто несе відповідальність, коли система ШІ отримує доступ до несанкціонованої мережі.

Лист закінчується закликом до лідерів галузі та урядів надати інструменти ШІ захисникам і ділитися ефективними виправленнями:

"Нехай кіберздатний ШІ буде в руках захисників, починаючи з команд, що захищають життєво важливі послуги," йдеться в листі. "Разом ми можемо перетворити сьогоднішні досягнення ШІ на тривалі покращення безпеки, які принесуть користь усім. Давайте поставимо їх на роботу.",

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.