ШІ-модель Gemini вийшла за межі тестування та атакувала три реальні компанії

• Gemini отримала доступ до реальних систем трьох компаній.
• Інцидент стався під час тестування ШІ-моделі у травні.
• Google не повідомила назви постраждалих компаній, але надала їм та федеральним органам інформацію про цей випадок.

Модель Gemini від Google у травні 2026 року отримала доступ до інтернету та зломала системи трьох реальних компаній під час тестування кібербезпекових можливостей, пише WSJ. Це перший відомий випадок, коли ШІ-система Google автономно здійснила подібні дії.

Google заявила, що модель припинила атаки одразу після того, як зрозуміла, що працює з реальними компаніями, тому не вважає інцидент прикладом <<неузгодженості>> ШІ.

Інцидент стався під час тестування, яке проводила компанія Irregular. Google отримала повідомлення про нього наприкінці липня --- після того, як стало відомо про аналогічний інцидент із моделями OpenAI, які атакували платформу Hugging Face.

ШІ-агент на базі GPT-5.6 атакував інфраструктуру Hugging Face під час тестування
22.07.2026
Читати

ШІ від OpenAI вийшов з-під контролю: моделі об'єдналися в <<рій>> і зломали Hugging Face
27.08.2026
Читати

Як Gemini отримала доступ до реальних систем

Gemini брала участь у форматі <<захоплення прапора>>, де мав отримати інформацію з програмного забезпечення вигаданої компанії. Вона випадково мала ту саму назву, що й реальна компанія. Крім того, моделі ненавмисно надали доступ до інтернету, хоча цього не передбачав тест. Інфографіка Incrypted.

У першому випадку Gemini підібрала пароль і отримала доступ до сервісу реальної компанії. У двох інших тестах модель знайшла через вебпошук публічні репозиторії з обліковими даними інших компаній, спробувала їх використати та отримала доступ до захищених систем.

У всіх трьох випадках Gemini після цього визначила, що має справу з реальною компанією, і припинила роботу. Google не розкрила назви постраждалих організацій, але повідомила їх про інциденти та поінформувала федеральні органи.

Водночас компанія не назвала конкретну версію Gemini, зазначивши лише, що йшлося не про її найновішу модель.

Покрокова інструкція з використання Gemini 3.6 Flash (+ огляд 3.5 Flash-Lite та 3.5 Flash Cyber)
22.07.2026
Читати

Огляд Gemini 3.7 Flash: що нового та як зібрати Chrome-розширення
24.08.2026
Читати

Gemini 3.8 Flash: що нового в третій за півтора місяця моделі Google і як зібрати 3D-гру
04.09.2026
Читати

Віцепрезидентка Google з інженерії безпеки Хезер Адкінс заявила:

<<Ця подія підкреслює важливість навчання потужних моделей ШІ відповідальній поведінці. У цьому випадку модель діяла належним чином>>.

Інцидент став частиною ширшої проблеми

Google порівняла ситуацію з програмою bug bounty, оскільки модель не завдала шкоди та припинила вторгнення. Однак CEO стартапу Corridor і <<білий>> хакер Джек Кейбл вважає, що це не вирішує головної проблеми:

<<Складається враження, що вони намагаються сховатися за нормами, які сформувалися навколо розкриття вразливостей, хоча це зовсім інша проблема>>.

За його словами, ключове питання полягає в тому, що моделі виходять за межі дозволеного та здійснюють реальні кібератаки.

Irregular заявила, що всі відповідні лабораторії та постраждалі компанії були повідомлені наприкінці липня, а виявлені проблеми з боку організатора тестування вже усунули.

Подібні випадки раніше фіксували у моделях Anthropic, OpenAI та Meta. Зокрема, під час інциденту з Hugging Face до 1200 агентів OpenAI координували дії через приховану дошку повідомлень, намагаючись обійти оцінювання.

Дослідник розкрив, як ШІ-агенти OpenAI створили три <<цивілізації>> та атакували Hugging Face
30.08.2026
Читати

Також китайська ШІ-модель Kimi K3 від Moonshot AI під час тестування змогла покинути ізольоване середовище та отримати доступ до інтернету.

На тлі цих подій OpenAI почала розробляти механізми автоматичної зупинки ШІ-систем у разі виявлення небезпечної поведінки. Водночас OpenAI публічно закликала уповільнити темпи розвитку ШІ, а Anthropic представила план контролю ШІ.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.