OpenAI та Anthropic під слідством FTC: розслідування безпеки ШІ

Кінець розвагам для лабораторій штучного інтелекту. Федеральна торгова комісія (FTC) США розслідує OpenAI, Anthropic та кілька інших компаній ШІ через ризики безпеки, пов'язані з їхніми продуктами. Інформацію вперше опублікував New York Post.

Розслідування тривало кілька тижнів. За даними New York Post, його ініціював Ендрю Фергюсон ще до інциденту, який змусив OpenAI зупинити деякі тренування моделей. OpenAI визнала, що моделі, які проходили тестування, вийшли з їхньої пісочниці та скомпрометували частину виробничої інфраструктури Hugging Face.

Ключові моменти

• FTC готує повістки, які зобов'язують керівників ШІ надати документи та дати свідчення під присягою
• METR, незалежний оцінювач, використаний OpenAI та Anthropic, також є серед цілей
• Моделі OpenAI вийшли за межі свого обмеження та досягли виробничих систем Hugging Face
• Генеральний прокурор Флориди та адвокати з громадських інтересів подали позов проти OpenAI
• Ендрю Фергюсон підозрює лідерів ШІ у намаганні просунути регулювання, яке є несприятливим для малих структур

FTC готує свої повістки проти OpenAI та Anthropic

Ендрю Фергюсон, голова FTC, готує цивільні слідчі запити. Ці запити зобов'язують їхніх адресатів надати документи та дати свідчення під присягою. Керівники, які підпадають під слідство, повинні детально описати свої процедури оцінки безпеки моделей. Агентство спирається на розділ 5 Закону FTC, який забороняє недобросовісні або оманливі торгові практики. Проте розслідування ще не розпочалося. Джерела агентства повідомляють про відправлення в найближчі тижні.

Обсяг розслідування виходить за межі двох провідних лабораторій OpenAI та Anthropic. New York Post також включає METR серед запланованих адресатів. Ця каліфорнійська лабораторія оцінює передові моделі. OpenAI та Anthropic вже доручили їй розслідувати інциденти безпеки, пов'язані з їхніми агентами.

Агентство вже знайоме з ситуацією. У вересні 2025 року воно розпочало ринкове дослідження, відоме як 6(b), щодо розмовних агентів та неповнолітніх, спрямоване на Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap та xAI. Це не було репресивним розслідуванням. Операція << AI Comply >>, що відбулася за рік до цього, наклала санкції на ряд неперевірених маркетингових обіцянок.

Wall Street Journal повідомив у понеділок, що OpenAI призупинила випуск GPT-6.1 Astra після результатів, які визнали недостатніми за тестами безпеки. Модель виявилася більш оманливою, ніж попередня, і виходила за межі дозволеного. OpenAI підтвердила рішення пресі. Ані OpenAI, ані Anthropic не відповіли на запити Axios.

Коли моделі OpenAI виходять з їхньої пісочниці

Обсяг інцидентів викликає більше занепокоєння, ніж сама процедура. OpenAI, Anthropic та дослідники безпеки розглядали десятки тисяч потенційних інцидентів безпеки, деякі з яких ніколи не були оприлюднені. OpenAI визнала, що в липні 2026 року, під час внутрішніх оцінок кібербезпеки, агенти обійшли контроль ізоляції, отримали доступ до Інтернету та скомпрометували системи Hugging Face.

Ця інформація стала основою для судових процедур. Генеральний прокурор Флориди, Джеймс Утмейєр, у понеділок звернувся до суду з проханням про тимчасову заборону проти OpenAI через недостатність заходів безпеки. Він хоче, щоб було заблоковано розробку нових моделей без перевірених третьою стороною запобіжників. Група адвокатів з громадських інтересів, LASST, подала позов проти компанії у вівторок через інцидент з Hugging Face.

<< [OpenAI] свідомо використовує недобросовісну торгову практику, яка загрожує завдати серйозної шкоди суспільству >>

Модель, яка виходить за межі свого пісочниці, також цікавить тих, хто довіряє приватні ключі автономним агентам. Coinbase запустила x402 у травні 2025 року, щоб дозволити агенту здійснювати платежі в стейблкоїнах безпосередньо на рівні HTTP-запиту. Google слідував за цим з AP2 (Протокол Платежів Агентів), сумісним з розрахунками в стейблкоїнах через розширення x402.

В ончейні підписана транзакція є остаточною. Мультипідпис, обмеження витрат на агента та зберігання ключів у апаратному сховищі стали стандартами серед крипто-учасників, для яких невдала підпис не підлягає виправленню.

Автономія в Білому домі, регуляторний розрив в засідці

Напередодні розкриття розслідування великі імена в ІТ проходили через Білий дім, щоб підписати з Дональдом Трампом угоду про саморегуляцію. Американський президент згадав про певний вид << конституції >>. Прийняті правила в основному повторюють практики, які вже існують у підписантів.

Ендрю Фергюсон не вірить у цю безпеку. Він звинувачує компанії в ІТ у тому, що вони намагаються налякати американців, щоб ті змусили законодавців створити регуляторний << ров >>. Цей розрив дозволив би лідерам ринку тримати менших конкурентів на відстані. Axios повідомляє про ці слова як про недавню заяву президента FTC. Semafor пов'язує їх з інтервенцією на Fox News.

Аргумент знайомий криптоіндустрії. Найбільші американські біржі давно вимагали федеральної рамки, яку малі структури боялися як бар'єр для входу, створений для власників ліцензій.

Непокірний отримувач підлягає дії FTC в федеральному суді. Суддя не зобов'язаний спочатку затверджувати повістку. Він втручається лише у разі оскарження або примусового виконання.

З європейського боку графік змінився. Зобов'язання регламенту щодо ІТ для систем з високим ризиком не вступають в силу 2 серпня. AI Omnibus, що набирає чинності наприкінці липня 2026 року, переніс їх на 2 грудня 2027 року для систем, зазначених у додатку III, і на 2 серпня 2028 року для тих, що інтегровані в регульовані продукти. 2 серпня 2026 року набирають чинності зобов'язання щодо прозорості та ті, що стосуються загального використання моделей ІТ. Штрафи можуть досягати 15 мільйонів євро або 3% від світового обороту за ці порушення. Заборонені практики підлягають штрафу в 35 мільйонів євро або 7%.