OpenAI и Anthropic предлагают 30-дневный обзор для передовых моделей ИИ

OpenAI и Anthropic работают вместе в Вашингтоне, чтобы сформировать федеральную систему обзора для продвинутых моделей ИИ, несмотря на конкуренцию за клиентов, финансирование и технологическое лидерство.

Резюме

• OpenAI и Anthropic поддерживают до 30 дней федерального доступа перед выпуском некоторых передовых моделей.
• Предложенный процесс будет применяться по всей отрасли, включая конкурентов, таких как Meta и xAI.
• Федеральные агентства должны разработать структуру до 1 августа в соответствии с указом от июня.
• Nvidia, Meta и Microsoft отдельно предостерегли от широких контролей над моделями ИИ с открытыми весами.

OpenAI и Anthropic стремятся к общим стандартам обзора

OpenAI и Anthropic призывают администрацию Трампа принять последовательный процесс обзора для моделей ИИ с продвинутыми возможностями кибербезопасности или национальной безопасности, согласно информации The Information.

Их сотрудничество происходит перед сроком 1 августа, когда федеральные агентства должны определить, какие системы должны квалифицироваться как "покрытые передовые модели". Эти модели могут быть предоставлены правительству для оценки на срок до 30 дней перед выпуском другим доверенным партнерам.

Сообщается, что обе компании хотят, чтобы стандарты применялись ко всей отрасли ИИ, а не ограничивались только разработчиками, уже сотрудничающими с Вашингтоном. Это могло бы привести к тому, что конкурирующие компании, включая Meta и xAI Илона Маска, окажутся под одной и той же рамкой обзора, если их модели пересекут окончательный порог возможностей.

Обсуждения отмечают редкое согласование политики между OpenAI и Anthropic. Обе компании продают универсальные системы ИИ и конкурируют за контракты с предприятиями, исследователей, вычислительные мощности и инвестиции.

Ни одна из компаний публично не раскрыла полные условия, которые она хочет включить в окончательную структуру.

Указ Трампа устанавливает добровольный 30-дневный процесс

Президент Дональд Трамп приказал федеральным агентствам установить классифицированный процесс бенчмаркинга через Исполнительный указ 14409 от 2 июня.

Указ направляет Национальное агентство безопасности, Агентство кибербезопасности и безопасности инфраструктуры, Министерство финансов и другие федеральные органы определить, когда модель ИИ имеет достаточно сильные возможности, чтобы требовать дополнительного обзора.

Разработчики, участвующие в рамках, смогут спросить у правительства, соответствует ли модель порогу покрытой передовой модели. Затем они смогут предоставить федеральным оценщикам доступ на срок до 30 дней перед тем, как сделать систему доступной для других одобренных партнеров.

Указ требует мер защиты для интеллектуальной собственности, конфиденциальной информации, кибербезопасности и угроз со стороны инсайдеров во время оценки.

Тем не менее, он прямо указывает, что процесс не может создать обязательные федеральные лицензии, предварительные проверки или правила разрешений для разработки или выпуска моделей ИИ. Таким образом, компании будут участвовать добровольно, если не применяются отдельные законы или полномочия правительства.

Разработчики ИИ в США ищут ясность перед запусками

Общая структура могла бы дать разработчикам из США более четкие стандарты для определения, когда ожидается государственное тестирование. Остаются вопросы о том, какие технические критерии вызовут обзор, какие агентства будут тестировать каждую систему и как чиновники будут утверждать партнеров с ранним доступом.

Эти неопределенности уже повлияли на недавние запуски. OpenAI и Anthropic предоставили государственным чиновникам ранний доступ к продвинутым моделям перед более широким распространением, но внешние исследователи имели ограниченную видимость в оценках.

Отчет за июль показал, что агентства, тесты и требования к одобрению, связанные с этими обзорами, остаются неясными. Отсутствие опубликованного процесса может усложнить планирование выпуска для разработчиков и оставить небольшие компании ИИ в неведении относительно того, применяются ли к ним те же стандарты.

Применение одного порога, основанного на возможностях, к OpenAI, Anthropic, Meta, xAI и другим разработчикам может снизить некоторую неопределенность. Это также может ограничить опасения, что Вашингтон предоставляет различное обращение выбранным компаниям.

Открытые модели ИИ разделяют индустрию

Призыв OpenAI и Anthropic к общему процессу проверки совпадает с предупреждениями других технологических компаний Вашингтону о том, что широкие ограничения на открытые модели ИИ могут ослабить лидерство США на фоне усиливающейся конкуренции с Китаем.

Как сообщалось на crypto.news на прошлой неделе, Nvidia, Meta и Microsoft присоединились к 22 другим организациям в открытом письме, в котором утверждается, что обширные ограничения могут ослабить лидерство США. IBM, Palantir, Mistral, Hugging Face, Mozilla, Andreessen Horowitz и Фонд Linux также подписали письмо.

Группа призвала к целенаправленным юридическим и коммерческим мерам против злоупотреблений вместо ограничений, охватывающих технологии с законными исследовательскими и коммерческими приложениями.

Открытые модели позволяют компаниям, исследователям и правительствам загружать программное обеспечение, модифицировать его и запускать на своей инфраструктуре. Сторонники утверждают, что это дает пользователям больший контроль над их данными, безопасностью и вычислительными системами, одновременно снижая затраты на развертывание.

Подписанты не рассматривали открытые и закрытые модели как взаимоисключающие. Вместо этого они утверждали, что оба подхода необходимы для поддержки конкуренции и предоставления разработчикам различных способов создания и развертывания систем ИИ.

Генеральный директор Nvidia Дженсен Хуанг поделился письмом в своем первом посте в X и защитил роль обеих моделей разработки.

"Миру нужны как закрытые модели передового уровня, так и открытые модели передового уровня."

Илон Маск также поддержал письмо в ответе на Хуанга, хотя его компания по разработке ИИ, xAI, не была указана среди 25 подписантов.

Оба усилия касаются разных аспектов политической дискуссии. OpenAI и Anthropic стремятся к последовательным федеральным оценкам для моделей, которые пересекают порог возможностей национальной безопасности, в то время как открытое письмо выступает против ограничений, основанных в основном на том, делает ли модель свои веса доступными.

Федеральные агентства теперь имеют срок до 1 августа, чтобы определить порог модели передового уровня и очертить процесс добровольной проверки. Окончательная структура покажет, сосредоточится ли Вашингтон на измеримых возможностях или применит более широкие условия, основанные на том, как распределяются модели ИИ.