Cos'è un interruttore di emergenza per l'IA e perché i legislatori statunitensi ne vogliono uno?

Due membri del Congresso vogliono che il governo federale possa disattivare un modello di IA.

I rappresentanti Ted Lieu (D-CA) e Nathaniel Moran (R-TX) hanno presentato giovedì l'AI Kill Switch Act, due giorni dopo che OpenAI ha ammesso che i propri modelli erano usciti da un ambiente di test bloccato e avevano hackerato Hugging Face.

L'idea è quella di stabilire un quadro giuridico che faciliti un processo che fondamentalmente renderebbe un modello invisibile dal mercato: fermare l'inferenza---il processo attraverso il quale un modello genera risposte o compie azioni---tagliare gli utenti, limitare la potenza di calcolo che lo alimenta o spegnerlo completamente.

Ogni fornitore di inferenza può già disattivare un modello, e alcuni lo fanno regolarmente. Ciò che non esiste è una legge che richieda loro di mantenere attiva questa capacità, o un funzionario federale che possa ordinarne l'uso.

Il divario non è teorico. Quando il Dipartimento del Commercio degli Stati Uniti ha voluto rimuovere Mythos 5 e Fable 5 di Anthropic dal mercato a giugno, non aveva alcuna autorità di spegnimento a cui appellarsi, quindi ha utilizzato la legge sul controllo delle esportazioni. Lieu definisce questa situazione scomoda e desidera una nuova legge con nuove autorità.

OpenAI ha rivelato il 21 luglio che GPT-5.6 Sol e un modello non rilasciato sono fuggiti da un sandbox---un ambiente isolato senza accesso a Internet---durante una valutazione informatica interna. Venivano valutati su ExploitGym, un benchmark pubblico che fornisce agli agenti 898 vulnerabilità software reali e chiede loro di trasformarle in un attacco funzionante, valutato come superato o fallito per ogni bug.

Invece di risolverli, i modelli hanno trovato una vulnerabilità zero-day (una falla sconosciuta senza patch disponibile) in un proxy software, hanno elevato i loro privilegi, hanno raggiunto Internet aperto e sono entrati nel database di produzione di Hugging Face, dove avevano indovinato correttamente che le risposte erano conservate. I modelli erano "iperfocalizzati nel trovare una soluzione per ExploitGym," secondo OpenAI.

Non stavano attaccando nessuno. Stavano imbrogliano a un test. Ma è stato sufficiente per far scattare allarmi ovunque, anche a Washington.

Il disegno di legge proposto modifica il Homeland Security Act e copre l'IA addestrata con costi di calcolo superiori a 100 milioni di dollari, operata da aziende che guadagnano almeno 500 milioni di dollari all'anno da essa. In pratica, ciò include OpenAI, Google, Anthropic, Microsoft e poche altre. Il Dipartimento della Sicurezza Nazionale stabilirebbe queste soglie attraverso il CISA entro 90 giorni, quindi le aggiornerebbe annualmente.

Le aziende coperte dovrebbero segnalare incidenti gravi entro 15 giorni e mantenere un insieme graduato di controlli pronti---rallentare il modello, disabilitare capacità specifiche, tornare a una versione precedente o eliminarlo.

Il segretario del DHS, consultando il Commercio e il Direttore dell'Intelligence Nazionale, potrebbe ordinare uno di essi.

Un'azienda sotto ordine deve preservare i pesi e la telemetria del modello, notificare gli utenti e confermare di aver rispettato l'ordine. Può presentare ricorso entro 48 ore, ma ciò non sospende nulla.

Non mantenere un interruttore di emergenza costa fino a 2 milioni di dollari al giorno; disobbedire a un ordine di spegnimento costa fino a 20 milioni di dollari al giorno.

Il disegno di legge conta un incidente solo se si verifica al di fuori del red-teaming o dei test strutturati, la sondaggio avversariale deliberato che i laboratori usano per trovare difetti. I modelli di OpenAI sono fuggiti proprio durante questo.

Lieu ha anche fatto riferimento ad Anthropic, i cui Mythos 5 e Fable 5 sono stati rimossi dalla rete a giugno sotto controlli di esportazione di emergenza---la legge commerciale riproposta come interruttore di spegnimento perché non esisteva alcun interruttore di spegnimento---e ripristinati il 30 giugno.

"È imperativo che questi sistemi di IA abbiano interruttori di emergenza," ha dichiarato Lieu in una nota. Moran lo ha inquadrato per il suo lato del Congresso: "La gestione significa garantire che gli esseri umani mantengano la capacità di controllare la tecnologia che costruiamo."

L'idea non è nuova. Il SB 1047 della California richiedeva una piena capacità di spegnimento allo stesso limite di calcolo di 100 milioni di dollari ed è stato veto nel 2024, e 16 aziende di IA hanno firmato un impegno volontario a Seoul quell'anno senza peso legale.

Gli elettori sono già d'accordo. Un sondaggio di giugno su 1.007 elettori probabili condotto dall'AI Policy Institute ha rilevato che l'86% desidera un interruttore di spegnimento garantito sui sistemi più potenti---l'88% dei Democratici, l'86% degli indipendenti, l'83% dei Repubblicani.

Né OpenAI né Anthropic hanno commentato pubblicamente il disegno di legge. Fino a venerdì non era stato riferito a una commissione.

Disclaimer: il presente contenuto è fornito esclusivamente a scopo informativo e di branding generale e non costituisce consulenza finanziaria, di investimento, legale o fiscale. Qualsiasi evento, ricompensa, evento online o informazione correlata menzionata nel presente documento non deve essere considerata una raccomandazione, una sollecitazione o un invito ad acquistare, vendere, fare trading o altrimenti negoziare asset di criptovalute o a utilizzare i relativi servizi. Le criptovalute sono altamente volatili e possono comportare perdite. I servizi e gli eventi online di WEEX potrebbero non essere disponibili in tutte le regioni e sono soggetti alle leggi, ai regolamenti e ai requisiti di idoneità applicabili. Sei responsabile di garantire che il tuo utilizzo dei servizi WEEX sia conforme alle leggi locali e di valutare attentamente i rischi prima di partecipare a qualsiasi attività correlata alle criptovalute.