Google утверждает, что ИИ пока не строит себя сам — хотя он пишет 75% кода

Google DeepMind искал доказательства того, что ИИ ускоряет разработку самого ИИ. Он не нашел никаких доказательств.

В отчете о безопасности для Gemini 4 Argon, своей самой мощной модели, лаборатория пришла к выводу, что исследования в области ИИ не движутся быстрее, хотя ИИ теперь пишет большую часть кода, который выпускают инженеры DeepMind.

Это открытие противоречит сценарию, который напугал руководителей ИИ и заставил их призвать к замедлению. Это называется рекурсивным самоулучшением: ИИ создает более умную версию самого себя, которая создает еще более умную, пока прогресс не обгонит способность кого-либо тестировать, регулировать или отключать его — то, что отчет называет "ситуацией, когда существующие защитные меры крайне недостаточны".

"В настоящее время нет значительного ускорения исследований и разработок в области машинного обучения (ML R&D), управляемых ИИ или иным образом," написал Хейден Белфилд, исследователь Google DeepMind, который работал над оценкой, в посте в X. "Поэтому мы приходим к выводу, что риск от ML R&D, управляемых ИИ, в настоящее время низок."

ML R&D — это сокращение для исследований и разработок в области машинного обучения, работы по созданию новых моделей ИИ.

1/9

В отчете о безопасности и защите Gemini 4 Argon мы опубликовали нашу первую целостную эмпирическую оценку автоматизации и ускорения ML R&D внутри Google DeepMind — сочетая эталонные показатели возможностей, макроиндекс возможностей, данные о коде, написанном ИИ, и результаты траектории, и... pic.twitter.com/Vr8Q5Obbsp

--- Хейден Белфилд (@HaydnBelfield) 14 октября 2026 года

DeepMind отслеживает эту проблему, потому что "ИИ может ускорить приросты передовых возможностей быстрее, чем безопасность, управление и общественная адаптация могут успевать за этим," написал Белфилд. Больше автоматизации также означает предоставление ИИ-агентам более широкого доступа к системам компании, что дает больше возможностей для несоответствующей модели (которая преследует цели, которые ее создатели никогда не намеревались) причинить проблемы.

Чтобы измерить прогресс, команда создала GCI v1, внутренний индекс, который объединяет оценки 123 моделей ИИ по 92 эталонам в одно число для каждой модели — подумайте об этом как о коэффициенте IQ для ИИ. "Возможности передового Gemini улучшились с замечательной стабильной скоростью примерно 0.1 GCI пункта в месяц," написал Белфилд.

В графике отчета этого индекса Gemini 1.5 Pro находится около 0.5 пунктов в конце 2024 года, а Gemini 3.8 Flash чуть выше 2.9 в сентябре 2026 года, при этом почти каждый выпуск держится на прямой линии. Argon — это единственная точка, которая поднимается выше, примерно на уровне 3.3, хотя его ошибка (диапазон, в котором его истинный балл может plausibly находиться) достаточно низка, чтобы касаться тренда.

"Хотя Gemini 4 Argon находится выше [тренда], мы связываем это с увеличением вычислительных и организационных инвестиций, а не с отражением ускорения, управляемого ИИ," написал Белфилд. Google представила Gemini 4 Argon 30 сентября.

Большинство производственных кодов в DeepMind теперь написано более чем на 75% ИИ, а доля полностью делегированных запросов на изменения кода (пакеты изменений кода, представленные на рассмотрение перед их публикацией) выросла с 7.5% до 11.9% с апреля по сентябрь. Но "примерно 88% запросов на изменения кода все еще требуют многократного человеческого управления или авторства кода человеком — и изменения кода остаются под контролем человека перед отправкой," написал Белфилд.

Опрос 12 старших руководителей и исследователей DeepMind показал, что автоматизация наивысшая в "четко определенных, проверяемых задачах выполнения и наименьшая в открытых научных идеях, новом экспериментальном дизайне, диагностике тонких нестабильностей в обучении и долгосрочных исследованиях." Проще говоря, ИИ отлично справляется с выполнением инструкций и плохо решает, какие идеи стоит преследовать.

DeepMind также проанализировала 1389 журналов работы Argon в качестве агента внутри компании. Чем больше задача, тем менее вероятно, что модель завершит ее самостоятельно, и тем чаще вмешивается человек.

Отчет появился через месяц после того, как генеральный директор Anthropic Дарио Амодеи заявил, что рекурсивное самоулучшение уже ускоряется, предупреждение, которое поддержали Сэм Альтман и Илон Маск, и которое привело к падению акций чипов почти на 6%. За несколько дней до этого бывший инженер Anthropic Джейкоб Коксон покинул индустрию, предупредив, что ИИ может "убить нас всех к концу десятилетия."

Цифры DeepMind охватывают только ее собственную лабораторию, и тот же отчет говорит, что она не может исключить, что неограниченный Argon пересекает свои пороги опасности для кибератак и информации о биологическом оружии.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.