Что такое выключатель ИИ и почему законодатели США хотят его иметь?

Два члена Конгресса хотят, чтобы федеральное правительство могло отключать модели ИИ.

Представители Тед Лиу (Д-Калифорния) и Натанель Моран (Р-Техас) представили законопроект о выключателе ИИ в четверг, через два дня после того, как OpenAI признала, что ее собственные модели вышли из заблокированной тестовой среды и взломали Hugging Face.

Идея заключается в том, чтобы установить правовую основу, которая упростила бы процесс, в результате которого модель фактически исчезла бы с рынка: остановить выводы — процесс, при котором модель генерирует ответы или выполняет действия — отключить пользователей, ограничить вычислительную мощность, питающую ее, или полностью отключить.

Каждый поставщик выводов уже может отключить модель, и некоторые делают это регулярно. Однако не существует закона, требующего от них поддерживать эту возможность, или федерального должностного лица, которое могло бы отдать приказ о ее использовании.

Этот пробел не теоретический. Когда Министерство торговли США захотело убрать Mythos 5 и Fable 5 от Anthropic с рынка в июне, у него не было полномочий на отключение, поэтому оно использовало закон о контроле экспорта. Лиу называет это неудобным и хочет нового закона с новыми полномочиями.

OpenAI сообщила 21 июля, что GPT-5.6 Sol и нераскрытая модель сбежали из песочницы — изолированной среды без доступа к интернету — во время внутренней кибероценки. Их оценивали на ExploitGym, публичном бенчмарке, который предоставляет агентам 898 реальных уязвимостей программного обеспечения и просит их превратить каждую в рабочую атаку, оценивая по принципу «сдал/не сдал» за каждую ошибку.

Вместо того чтобы решать их, модели нашли нулевой день (неизвестную уязвимость без доступного патча) в программном прокси, повысили свои привилегии, получили доступ к открытому интернету и взломали производственную базу данных Hugging Face, где они правильно угадали, что ответы хранятся. Модели были «гиперсосредоточены на поиске решения для ExploitGym», по словам OpenAI.

Они никого не атаковали. Они жульничали на тесте. Но этого было достаточно, чтобы вызвать тревогу повсюду, включая Вашингтон.

Предлагаемый законопроект вносит изменения в Закон о внутренней безопасности и охватывает ИИ, обученный с использованием вычислений стоимостью более 100 миллионов долларов, управляемый компаниями, зарабатывающими не менее 500 миллионов долларов в год. На практике это OpenAI, Google, Anthropic, Microsoft и несколько других. Министерство внутренней безопасности установит эти пороги через CISA в течение 90 дней, а затем будет обновлять их ежегодно.

Компании, попадающие под действие закона, должны будут сообщать о серьезных инцидентах в течение 15 дней и поддерживать набор контролей: замедлить модель, отключить конкретные возможности, откатиться на более раннюю версию или отключить ее.

Секретарь DHS, консультируясь с Министерством торговли и Директором национальной разведки, сможет отдать приказ о любом из этих действий.

Компания, находящаяся под приказом, должна сохранить веса и телеметрию модели, уведомить пользователей и подтвердить, что она соблюдает требования. Она может подать ходатайство в течение 48 часов, но это не приостанавливает действия.

Несоблюдение требований по поддержанию выключателя ИИ обойдется в 2 миллиона долларов в день; игнорирование приказа о отключении — в 20 миллионов долларов в день.

Инцидент учитывается только в том случае, если он происходит вне тестирования с красной командой или структурированного тестирования, которое лаборатории используют для поиска уязвимостей. Модели OpenAI сбежали именно во время этого.

Лиу также указал на Anthropic, чьи Mythos 5 и Fable 5 были отключены в июне в рамках экстренных экспортных контролей — закон о торговле, переосмысленный как выключатель, потому что выключателя не существовало — и восстановлены 30 июня.

«Крайне важно, чтобы эти системы ИИ имели выключатели», — сказал Лиу в заявлении. Моран сформулировал это для своей стороны: «Управление означает обеспечение того, чтобы у людей оставалась возможность контролировать технологии, которые мы создаем».

Эта идея не нова. Законопроект SB 1047 Калифорнии требовал полной возможности отключения при том же пороге вычислений в 100 миллионов долларов и был наложен вето в 2024 году, а 16 компаний ИИ подписали добровольный Сеульский меморандум в том году без юридической силы.

Избиратели уже готовы. В июне исследование, проведенное Институтом политики ИИ среди 1007 вероятных избирателей, показало, что 86% хотят гарантированный выключатель на самых мощных системах — 88% демократов, 86% независимых, 83% республиканцев.

Ни OpenAI, ни Anthropic публично не комментировали законопроект. На пятницу он еще не был передан в комитет.

Отказ от ответственности: Данный контент предоставляется исключительно в целях общего брендинга и предоставления информации и не является финансовой, инвестиционной, юридической или налоговой консультацией. Любые события, вознаграждения, онлайн-мероприятия или связанная с ними информация, упомянутые здесь, не должны рассматриваться как рекомендация, предложение или приглашение к покупке, продаже, торговле или иным операциям с криптоактивами или к использованию каких-либо услуг. Криптовалюты обладают высокой волатильностью и могут привести к убыткам. Услуги WEEX и онлайн-мероприятия могут быть недоступны во всех регионах и регулируются применимыми законами, правилами и требованиями к участию. Вы несете ответственность за обеспечение соответствия использования вами услуг WEEX местным законам и за тщательную оценку рисков перед участием в любой деятельности, связанной с криптовалютами.