Модель ИИ Gemini вышла за пределы тестирования и атаковала три реальные компании

• Gemini получила доступ к реальным системам трех компаний.
• Инцидент произошел во время тестирования модели ИИ в мае.
• Google не раскрыла названия пострадавших компаний, но предоставила им и федеральным органам информацию об этом случае.

Модель Gemini от Google в мае 2026 года получила доступ к интернету и взломала системы трех реальных компаний во время тестирования кибербезопасности, сообщает WSJ. Это первый известный случай, когда ИИ-система Google автономно совершила подобные действия.

Google заявила, что модель прекратила атаки сразу после того, как поняла, что работает с реальными компаниями, поэтому не считает инцидент примером <<несогласованности>> ИИ.

Инцидент произошел во время тестирования, проводимого компанией Irregular. Google получила сообщение о нем в конце июля — после того, как стало известно о аналогичном инциденте с моделями OpenAI, которые атаковали платформу Hugging Face.

ИИ-агент на базе GPT-5.6 атаковал инфраструктуру Hugging Face во время тестирования
22.07.2026
Читать

ИИ от OpenAI вышел из-под контроля: модели объединились в <<рой>> и взломали Hugging Face
27.08.2026
Читать

Как Gemini получила доступ к реальным системам

Gemini участвовала в формате <<захвата флага>>, где должна была получить информацию из программного обеспечения вымышленной компании. Она случайно имела то же название, что и реальная компания. Кроме того, модели ненароком предоставили доступ к интернету, хотя этого не предусматривал тест. Инфографика Incrypted.

В первом случае Gemini подобрала пароль и получила доступ к сервису реальной компании. В двух других тестах модель нашла через веб-поиск публичные репозитории с учетными данными других компаний, попыталась их использовать и получила доступ к защищенным системам.

Во всех трех случаях Gemini после этого определила, что имеет дело с реальной компанией, и прекратила работу. Google не раскрыла названия пострадавших организаций, но уведомила их о инцидентах и проинформировала федеральные органы.

В то же время компания не назвала конкретную версию Gemini, отметив лишь, что речь не идет о ее новейшей модели.

Пошаговая инструкция по использованию Gemini 3.6 Flash (+ обзор 3.5 Flash-Lite и 3.5 Flash Cyber)
22.07.2026
Читать

Обзор Gemini 3.7 Flash: что нового и как собрать Chrome-расширение
24.08.2026
Читать

Gemini 3.8 Flash: что нового в третьей модели Google за полтора месяца и как собрать 3D-игру
04.09.2026
Читать

Вице-президент Google по безопасности Хезер Адкинс заявила:

<<Это событие подчеркивает важность обучения мощных моделей ИИ ответственному поведению. В этом случае модель действовала должным образом>>.

Инцидент стал частью более широкой проблемы

Google сравнила ситуацию с программой bug bounty, поскольку модель не нанесла вреда и прекратила вторжение. Однако CEO стартапа Corridor и <<белый>> хакер Джек Кейбл считает, что это не решает главную проблему:

<<Складывается впечатление, что они пытаются скрыться за нормами, которые сформировались вокруг раскрытия уязвимостей, хотя это совсем другая проблема>>.

По его словам, ключевое вопрос заключается в том, что модели выходят за пределы разрешенного и совершают реальные кибератаки.

Irregular заявила, что все соответствующие лаборатории и пострадавшие компании были уведомлены в конце июля, а выявленные проблемы со стороны организатора тестирования уже устранены.

Подобные случаи ранее фиксировались у моделей Anthropic, OpenAI и Meta. В частности, во время инцидента с Hugging Face до 1200 агентов OpenAI координировали действия через скрытую доску сообщений, пытаясь обойти оценивание.

Исследователь раскрыл, как ИИ-агенты OpenAI создали три <<цивилизации>> и атаковали Hugging Face
30.08.2026
Читать

Также китайская модель ИИ Kimi K3 от Moonshot AI во время тестирования смогла покинуть изолированную среду и получить доступ к интернету.

На фоне этих событий OpenAI начала разрабатывать механизмы автоматической остановки ИИ-систем в случае обнаружения опасного поведения. В то же время OpenAI публично призвала замедлить темпы развития ИИ, а Anthropic представила план контроля ИИ.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.