OpenAI спрашивает у Конгресса, будет ли законным замедление развития ИИ

OpenAI спросила членов Конгресса, могут ли конкурирующие компании в области ИИ законно договориться о замедлении разработки, поскольку главный ученый компании призывает отрасль установить общие стандарты безопасности.

Согласно WIRED, который цитирует людей, близких к компании, OpenAI в последние недели спрашивала законодателей, может ли соглашение между компаниями ИИ о замедлении разработки нарушить антимонопольные законы.

Обращение к законодателям последовало за призывом главного ученого OpenAI Якуба Пачоцкого к добровольному замедлению, пока разработчики не смогут лучше продемонстрировать безопасность своих систем. Однако компании испытывают давление, чтобы продолжать развиваться, даже когда их собственные исследователи выражают беспокойство.

"Коммерческая и геополитическая конкуренция в области ИИ невероятно интенсивна, что приводит к тревожной динамике, когда компании мотивированы выпускать продукты до того, как их риски будут полностью поняты," - сказала Миранда Боген, главный технолог Центра демократии и технологий, в интервью Decrypt.

"Даже когда внутренний персонал знает, что необходимо больше исследований и тестирования, их компании сталкиваются с огромным давлением, чтобы сэкономить на углах и пропустить критические тесты безопасности, несмотря на накапливающиеся доказательства последствий слишком быстрого движения," - добавила она.

Соглашение о замедлении разработки ИИ может вызвать антимонопольные опасения, ограничивая конкуренцию. Сенаторы Адам Шифф и Джим Бэнкс представили законопроект, чтобы защитить определенные сотрудничества в области безопасности, при условии предварительного уведомления Министерства юстиции.

Дебаты о замедлении разработки ИИ происходят на фоне конкуренции между Соединенными Штатами и Китаем за лидерство в технологии. Президент США Дональд Трамп отложил указ о ИИ в мае из-за опасений, что это может ослабить лидерство Америки над Китаем. Позже Трамп подписал указ в июне, создав добровольный процесс проверки для продвинутых моделей перед выпуском.

Более прямыми, чем опасения национальной безопасности, финансовые стимулы могут сделать соглашение трудным.

"Каждое достижение в текущих условиях приносит много миллионов или миллиардов больше финансирования и ставит создателей этого достижения в более сильную позицию власти и влияния," - сказал Дункан Сабьен, глава коммуникаций в Институте исследований машинного интеллекта, в интервью Decrypt.

Назвав динамику гонки вооружений реальной, Сабьен сказал, что OpenAI и Anthropic испытывают давление продолжать развиваться, несмотря на неопределенные риски, потому что каждая новая система помогает создавать более способных преемников, позволяя сопернику опередить, если какая-либо из компаний замедлится без общего соглашения.

"Это особенно верно, поскольку приросты в интеллекте компаундируются; каждая новая система облегчает обучение и развертывание следующей, более продвинутой системы," - сказал он. "Без какого-либо механизма координации, отступление просто означает, что другой получает преимущество.

В августе OpenAI приостановила внутреннюю работу Astra, не имея более строгих мер безопасности из-за опасений по кибербезопасности. Однако как OpenAI, так и Anthropic ослабили свои обязательства по безопасности в феврале, при этом главный научный сотрудник Anthropic Джаред Каплан утверждал, что замедление разработки независимо имеет меньше смысла, пока конкуренты продолжают развиваться.

Главный ученый OpenAI предупреждает, что лабораториям ИИ может потребоваться замедлиться

Дебаты о замедлении разработки ИИ обострились на этой неделе после того, как бывший инженер Anthropic Джейкоб Коксон публично объявил о своей отставке, сославшись на опасения по поводу рисков, которые продолжающаяся разработка ИИ представляет для человечества.

"Люди, создающие ИИ, искренне верят, что он может убить нас всех к концу десятилетия," - сказал Коксон в X, добавив, что это не "маркетинговый трюк."

"Если что-то, многие руководители и старшие исследователи будут формулировать свои слова в прессе так, чтобы звучать разумно---но я слышу, как те же люди выражают страх наедине. Ни одно другое человеческое действие не представляет такого уровня опасности," - написал он.

Тем не менее, Сабьен сказал, что исследователи могут добиться немного, если уйдут, если кто-то другой просто займет их место.

"Если достаточно из них достигнут общего понимания, что им всем следует остановиться, тогда они могут преодолеть барьер координации и остановиться вместе, а не просто быть замененными следующим немного менее осторожным человеком," - сказал он.