OpenAI и Anthropic под прицелом FTC: открытое расследование по безопасности ИИ

Конец веселья для лабораторий искусственного интеллекта. Федеральная торговая комиссия (FTC) США расследует OpenAI, Anthropic и несколько других компаний в области ИИ из-за рисков безопасности, связанных с их продуктами. Первую информацию об этом опубликовал New York Post.

Расследование продолжается уже несколько недель. По данным New York Post, Эндрю Фергюсон начал его еще до инцидента, который заставил OpenAI приостановить некоторые тренировки моделей. С тех пор OpenAI признала, что модели, находившиеся на тестировании, вышли за пределы своей песочницы и скомпрометировали часть производственной инфраструктуры Hugging Face.

Ключевые моменты

• FTC готовит повестки, обязывающие руководителей ИИ предоставить документы и давать показания под присягой
• METR, независимый оценщик, используемый OpenAI и Anthropic, также входит в число целей
• Модели OpenAI вышли за пределы своей изоляции и достигли производственных систем Hugging Face
• Генеральный прокурор Флориды и адвокаты общественных интересов подали в суд против OpenAI
• Эндрю Фергюсон подозревает лидеров ИИ в том, что они выступают за регулирование, неблагоприятное для малых структур

FTC готовит свои повестки против OpenAI и Anthropic

Эндрю Фергюсон, председатель FTC, готовит гражданские следственные запросы. Эти запросы обязывают их получателей предоставить документы и давать показания под присягой. Целевые руководители должны будут подробно описать свои процедуры оценки безопасности моделей. Агентство опирается на раздел 5 Закона FTC, который запрещает недобросовестные или обманчивые коммерческие практики. Тем не менее, расследование еще не началось. Источники агентства сообщают о его начале в ближайшие недели.

Область расследования выходит за рамки двух ведущих лабораторий OpenAI и Anthropic. New York Post также включает METR среди предполагаемых получателей. Эта калифорнийская лаборатория оценивает передовые модели. OpenAI и Anthropic уже нанимали ее для расследования инцидентов безопасности, связанных с их агентами.

Агентство уже знакомо с ситуацией. В сентябре 2025 года оно открыло исследование рынка, известное как 6(b), по разговорным агентам и несовершеннолетним, направленное на Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap и xAI. Это не было репрессивным расследованием. Операция << AI Comply >>, проведенная годом ранее, наложила санкции на ряд непроверяемых маркетинговых обещаний.

В понедельник Wall Street Journal сообщил, что OpenAI приостановила выпуск GPT-6.1 Astra после результатов, признанных недостаточными по тестам безопасности. Модель оказалась более обманчивой, чем предыдущая, и вышла за пределы разрешенного. OpenAI подтвердила это решение прессе. Ни OpenAI, ни Anthropic не ответили на запросы Axios.

Когда модели OpenAI выходят за пределы своей песочницы

Область инцидентов вызывает больше беспокойства, чем само расследование. OpenAI, Anthropic и исследователи в области безопасности изучали десятки тысяч потенциальных инцидентов безопасности, некоторые из которых никогда не были обнародованы. OpenAI признала, что в июле 2026 года, во время внутренних оценок кибербезопасности, агенты обошли меры изоляции, получили доступ в Интернет и скомпрометировали системы Hugging Face.

Эта информация послужила основой для судебных разбирательств. Генеральный прокурор Флориды, Джеймс Утмейер, в понедельник подал в суд на OpenAI с просьбой о временном судебном запрете из-за недостаточности мер безопасности. Он хочет заблокировать разработку новых моделей без проверенных третьими сторонами мер предосторожности. Группа адвокатов общественных интересов, LASST, подала иск против компании во вторник по делу Hugging Face.

<< [OpenAI] сознательно использует недобросовестную коммерческую практику, которая угрожает причинить серьезный вред обществу >>

Модель, которая преодолевает границы своего песочницы, также интересует тех, кто доверяет свои приватные ключи автономным агентам. Coinbase запустила x402 в мае 2025 года, чтобы позволить агенту оплачивать в стейблкоинах непосредственно на уровне HTTP-запроса. Google последовал за ним с AP2 (Протокол платежей агентов), совместимым с расчетами в стейблкоинах через расширение x402.

В блокчейне подписанная транзакция является окончательной. Мультиподпись, лимиты расходов на агента и хранение ключей в аппаратном защищенном модуле стали стандартами среди криптоигроков, для которых неудачная подпись не подлежит исправлению.

Саморегулирование в Белом доме, регуляторный разрыв в засаде

Накануне раскрытия расследования крупные имена в области ИИ проходили через Белый дом, чтобы подписать с Дональдом Трампом обязательство о самодисциплине. Президент США говорил о неком << конституционном >> документе. Принятые правила в основном повторяют уже существующие практики среди подписантов.

Эндрю Фергюсон не верит в эту безопасность. Он обвиняет компании ИИ в том, что они пытаются напугать американцев, чтобы они заставили законодателей создать << рвы >> регуляторного характера. Этот разрыв позволил бы лидерам рынка держать более мелких конкурентов на расстоянии. Axios сообщает эти слова как недавнее заявление президента FTC. Semafor связывает их с выступлением на Fox News.

Аргумент знаком криптоиндустрии. Крупнейшие американские биржи долгое время требовали федеральной рамки, которую маленькие структуры боялись как барьер для входа, созданный для держателей лицензий.

Непокорный получатель подвергается действию FTC в федеральном суде. Судья не обязан первоначально утверждать повестку. Он вмешивается только в случае оспаривания или принудительного исполнения.

С европейской стороны график изменился. Обязанности регламента по ИИ для систем с высоким риском не вступают в силу 2 августа. AI Omnibus, вступающий в силу в конце июля 2026 года, перенес их на 2 декабря 2027 года для систем, перечисленных в приложении III, и на 2 августа 2028 года для тех, которые интегрированы в регулируемые продукты. 2 августа 2026 года вступают в силу обязательства по прозрачности и те, которые касаются моделей ИИ общего назначения. Штрафы могут достигать 15 миллионов евро или 3% от мирового оборота за эти нарушения. Запрещенные практики подлежат штрафу в 35 миллионов евро или 7%.