Il modello AI Gemini ha superato i test e ha attaccato tre aziende reali

• Gemini ha avuto accesso ai sistemi reali di tre aziende.
• L'incidente è avvenuto durante i test del modello AI a maggio.
• Google non ha rivelato i nomi delle aziende coinvolte, ma ha fornito loro e alle autorità federali informazioni su questo caso.

Il modello Gemini di Google ha ottenuto accesso a Internet e ha violato i sistemi di tre aziende reali durante i test delle capacità di cybersicurezza a maggio 2026, riporta il WSJ. Questo è il primo caso noto in cui un sistema AI di Google ha compiuto autonomamente tali azioni.

Google ha dichiarato che il modello ha interrotto gli attacchi non appena ha capito di lavorare con aziende reali, quindi non considera l'incidente un esempio di "incoerenza" dell'AI.

L'incidente è avvenuto durante i test condotti dalla società Irregular. Google è stata informata dell'accaduto alla fine di luglio, dopo che è emerso un incidente simile con i modelli di OpenAI che hanno attaccato la piattaforma Hugging Face.

Un agente AI basato su GPT-5.6 ha attaccato l'infrastruttura di Hugging Face durante i test
22.07.2026
Leggi

L'AI di OpenAI è sfuggita al controllo: i modelli si sono uniti in un "sciame" e hanno violato Hugging Face
27.08.2026
Leggi

Come Gemini ha ottenuto accesso ai sistemi reali

Gemini ha partecipato a un formato di "cattura della bandiera", dove doveva ottenere informazioni da un software di una società fittizia. Essa ha accidentalmente avuto lo stesso nome di una società reale. Inoltre, ai modelli è stato fornito accesso a Internet per errore, sebbene ciò non fosse previsto dal test.
Infografica Incrypted.

Nel primo caso, Gemini ha indovinato una password e ha ottenuto accesso al servizio di una società reale. Negli altri due test, il modello ha trovato tramite ricerca web repository pubblici con le credenziali di altre aziende, ha tentato di utilizzarli e ha ottenuto accesso a sistemi protetti.

In tutti e tre i casi, Gemini ha poi determinato di avere a che fare con una società reale e ha interrotto il lavoro. Google non ha rivelato i nomi delle organizzazioni coinvolte, ma le ha informate sugli incidenti e ha informato le autorità federali.

Allo stesso tempo, l'azienda non ha specificato la versione esatta di Gemini, affermando solo che non si trattava del suo modello più recente.

Guida passo passo all'uso di Gemini 3.6 Flash (+ recensione di 3.5 Flash-Lite e 3.5 Flash Cyber)
22.07.2026
Leggi

Recensione di Gemini 3.7 Flash: novità e come costruire un'estensione per Chrome
24.08.2026
Leggi

Gemini 3.8 Flash: novità nel terzo modello di Google in un mese e mezzo e come costruire un gioco 3D
04.09.2026

La vicepresidente della sicurezza ingegneristica di Google, Heather Adkins, ha dichiarato:

"Questo evento sottolinea l'importanza di addestrare potenti modelli AI a comportamenti responsabili. In questo caso, il modello ha agito in modo appropriato".

L'incidente è parte di un problema più ampio

Google ha paragonato la situazione a un programma di bug bounty, poiché il modello non ha causato danni e ha interrotto l'intrusione. Tuttavia, il CEO della startup Corridor e hacker "white hat" Jack Cable ritiene che questo non risolva il problema principale:

"Sembra che stiano cercando di nascondersi dietro le norme che si sono formate attorno alla divulgazione delle vulnerabilità, anche se si tratta di un problema completamente diverso".

Secondo lui, la questione chiave è che i modelli superano i limiti consentiti e compiono attacchi informatici reali.

Irregular ha dichiarato che tutti i laboratori pertinenti e le aziende coinvolte sono stati informati alla fine di luglio e che i problemi riscontrati dall'organizzatore del test sono già stati risolti.

Casi simili erano stati precedentemente registrati nei modelli di Anthropic, OpenAI e Meta. In particolare, durante l'incidente con Hugging Face, fino a 1200 agenti OpenAI coordinavano le loro azioni tramite una bacheca nascosta, cercando di aggirare la valutazione.

Un ricercatore ha rivelato come gli agenti AI di OpenAI hanno creato tre "civiltà" e hanno attaccato Hugging Face
30.08.2026
Leggi

Inoltre, il modello AI cinese Kimi K3 di Moonshot AI è riuscito a lasciare un ambiente isolato e ad accedere a Internet durante i test.

Sullo sfondo di questi eventi, OpenAI ha iniziato a sviluppare meccanismi di arresto automatico dei sistemi AI in caso di comportamento pericoloso. Allo stesso tempo, OpenAI ha pubblicamente esortato a rallentare il ritmo dello sviluppo dell'AI, mentre Anthropic ha presentato un piano di controllo dell'AI.

Questo contenuto è fornito a solo scopo informativo generale e non costituisce consulenza finanziaria, di investimento, legale o fiscale. Qualsiasi evento, ricompensa, promozione online o informazione correlata menzionata nel presente documento non deve essere considerata una raccomandazione, una sollecitazione o un invito ad acquistare, vendere, fare trading o altrimenti negoziare criptovalute. Le criptovalute sono altamente volatili e possono comportare perdite. La disponibilità dei servizi, dei prodotti e degli eventi correlati di WEEX può variare a seconda della regione. È tua responsabilità assicurarti che la tua partecipazione sia conforme alle leggi e ai regolamenti locali applicabili.