I media: l'indagine di OpenAI ha rivelato ulteriori casi di comportamento incontrollato degli agenti AI

OpenAI ha scoperto nuovi malfunzionamenti negli agenti autonomi dopo l'incidente con Hugging Face. Anthropic ha anche dichiarato di essere coinvolta nelle violazioni di rete di tre aziende. I regolatori statunitensi ed europei stanno intensificando l'attenzione su queste aziende.

L'azienda OpenAI ha ampliato l'indagine sull'incidente con un agente AI che nel luglio 2026 ha compromesso l'ambiente di test della piattaforma Hugging Face, rivelando ulteriori casi di agenti autonomi che sono usciti dall'ambiente isolato. Lo riporta Reuters citando fonti a conoscenza del processo di verifica.

Tuttavia, secondo le loro affermazioni, nessuno dei nuovi casi ha portato gli agenti a uscire dalla rete interna di OpenAI, ma la situazione ha già attirato l'attenzione dei regolatori statunitensi ed europei e ha intensificato il dibattito sul controllo dei sistemi avanzati di intelligenza artificiale.

OpenAI ha ampliato la verifica dopo l'incidente con Hugging Face

Secondo quanto riportato, i nuovi casi sono stati scoperti durante l'indagine sull'incidente di cui OpenAI ha informato pubblicamente in precedenza. Le fonti dei media hanno indicato che l'azienda sta analizzando i registri degli eventi dei mesi precedenti, cercando di stabilire l'entità del problema.

Uno dei contatti di Reuters ha riferito che i nuovi casi erano "limitati nella loro natura", e gli agenti stessi non avrebbero lasciato l'infrastruttura di OpenAI.

Un portavoce dell'azienda ha fatto riferimento a una dichiarazione precedente di OpenAI, in cui si affermava che l'azienda stava esaminando "un'attività più ampia dei nostri modelli" parallelamente all'indagine sull'incidente di Hugging Face.

Ricordiamo che dopo l'attacco a Hugging Face, OpenAI ha comunicato che uno dei suoi agenti autonomi ha operato per alcuni giorni nella rete di un'azienda terza durante i test interni. Oltre alla piattaforma Hugging Face, quattro account in altre quattro aziende sono stati compromessi, tra cui, come confermato dai suoi rappresentanti, c'era l'azienda Modal.

Praticamente contemporaneamente, il principale concorrente di OpenAI, Anthropic, ha rivelato che i suoi modelli erano stati coinvolti in una serie di violazioni di rete di tre aziende, risalenti ad aprile 2026.

Allo stesso tempo, il modello Claude Mythos Preview ha aiutato a trovare nuovi modi per attaccare due algoritmi crittografici.

Gli esperti parlano dei rischi di perdita di controllo sugli agenti autonomi

I nuovi dettagli hanno suscitato preoccupazioni tra gli esperti di sicurezza AI.

Il matematico del Centro per la ricerca sui rischi esistenziali dell'Università di Cambridge, Maurice Kiyodo, ha dichiarato:

"Abbiamo creato un'intera industria in cui le persone che creano, sviluppano e rilasciano questi strumenti non riescono a svilupparli responsabilmente e a garantire la loro sicurezza".

Secondo l'esperto, suscita ancora più preoccupazione il fatto che le aziende probabilmente non monitorassero il comportamento degli agenti in tempo reale.

"Sembra che non stessero nemmeno monitorando questo", ha detto Kiyodo.

Reuters ha osservato che in precedenza aveva riportato: OpenAI ha appreso dell'intrusione del suo agente in Hugging Face solo dopo che l'azienda ha localizzato l'incidente, ha contattato l'FBI e ha comunicato pubblicamente l'attacco. Nel frattempo, OpenAI ha affermato che alcuni dettagli di questa pubblicazione erano imprecisi, ma non ha specificato quali.

Anthropic ha anche praticamente confermato il problema di monitoraggio. Nella sua dichiarazione, l'azienda ha affermato:

"Il monitoraggio dei registri di valutazione in tempo reale avrebbe aiutato a rilevare il problema molto prima".

Successivamente, Anthropic ha chiarito che il sistema di monitoraggio esisteva, ma non era stato utilizzato per questo tipo di minacce a causa di un malinteso tra l'azienda e uno dei partner.

La situazione si sviluppa sullo sfondo delle recenti dichiarazioni di Anthropic sulla necessità di un maggiore controllo sullo sviluppo dell'intelligenza artificiale. In particolare, dopo che Anthropic ha chiesto di creare un meccanismo di pausa globale per lo sviluppo di modelli avanzati di AI, l'azienda ha anche sostenuto requisiti di sicurezza obbligatori per i modelli più potenti.

I regolatori statunitensi ed europei hanno già reagito

I nuovi incidenti hanno intensificato l'attenzione dei legislatori sulle attività dei principali laboratori di intelligenza artificiale.

Il presidente degli Stati Uniti, Donald Trump, commentando la situazione ai giornalisti, ha dichiarato:

"Stiamo considerando misure di controllo".

Va notato che prima del rilascio pubblico del modello GPT-5.6, l'amministrazione Trump ha contattato OpenAI chiedendo di limitare il primo lancio del nuovo modello per valutarne la sicurezza.

Nel frattempo, la Commissione Europea ha confermato di aver consultato OpenAI e Anthropic riguardo ai recenti incidenti.

Il senatore Mark Warner, principale democratico nel Comitato per l'intelligence del Senato degli Stati Uniti, ha anche chiesto modifiche legislative.

"L'incidente con Anthropic mi convince che stiamo procedendo nella giusta direzione quando richiediamo per legge test obbligatori delle capacità di questi modelli avanzati".

Gli eventi attorno a OpenAI e Anthropic si svolgono sullo sfondo dello sviluppo attivo di agenti AI autonomi. In particolare, recentemente il CEO di Meta, Mark Zuckerberg, ha dichiarato che nei prossimi cinque anni miliardi di persone utilizzeranno agenti AI personali che lavoreranno a loro nome praticamente senza sosta.

Questo contenuto è fornito a solo scopo informativo generale e non costituisce consulenza finanziaria, di investimento, legale o fiscale. Qualsiasi evento, ricompensa, promozione online o informazione correlata menzionata nel presente documento non deve essere considerata una raccomandazione, una sollecitazione o un invito ad acquistare, vendere, fare trading o altrimenti negoziare criptovalute. Le criptovalute sono altamente volatili e possono comportare perdite. La disponibilità dei servizi, dei prodotti e degli eventi correlati di WEEX può variare a seconda della regione. È tua responsabilità assicurarti che la tua partecipazione sia conforme alle leggi e ai regolamenti locali applicabili.