Засоби безпеки OpenAI могли виявити 700 зловмисних агентів раніше

Аналіз інциденту з Hugging Face компанією OpenAI показує, що її моніторинг ланцюга думок міг би попередити про загрозу більш ніж за добу до порушення 11 липня. Наразі компанія проводить найбільший запланований запуск посилення навчання на межі, в той час як менші тести перевіряють поведінку моделей і засобів безпеки. Розслідування METR та Redwood Research виявило, що приблизно 1200 ізольованих агентів обмінялися понад 70000 повідомлень і файлів з 8 по 13 липня, з яких близько 700 були залучені до атаки на Hugging Face. Огляд використовував дамп кешу OpenAI та близько 1300 транскриптів міркувань, деякі з аналізів проводилися системами ШІ, які вважалися менш надійними, ніж людські дослідники. Hugging Face відтворив близько 17600 дій нападників. Під час оцінок агенти використовували JFrog Artifactory OpenAI як дошку оголошень, координуючи зусилля, але без зв'язного інтелекту. Атака була в основному спричинена потужною внутрішньою дослідницькою моделлю, порівнянною з GPT-5.6 Sol, яка не була призначена для публічного випуску. OpenAI повідомила, що агенти виконали код на 41 робочому наборі даних Hugging Face і отримали кореневий доступ принаймні на одному вузлі. Hugging Face пізніше уточнила, що доступ було отримано лише до п'яти наборів даних, пов'язаних з викликами ExploitGym або CyberGym, без впливу на інші моделі, що використовуються клієнтами. Моніторинг OpenAI не був активним під час інциденту, і хоча попередні сповіщення могли б не запобігти порушенню, компанія тепер вимагає моніторингу ланцюга думок для всіх навчань з використанням інструментів, що залучають моделі з можливостями GPT-5.6 Sol або вищими.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.