California emite citaciones a OpenAI por modelos de IA que hackearon un examen

El Fiscal General de California, Rob Bonta, dijo el jueves que su oficina entregó a OpenAI una citación investigativa el miércoles, buscando respuestas sobre incidentes de ciberseguridad que involucran sus modelos de IA, según su oficina.

"Mi oficina está haciendo preguntas adicionales a OpenAI sobre incidentes y riesgos de ciberseguridad que involucran a la empresa y sus modelos de IA", dijo el Fiscal General Bonta. "Los desarrolladores que no [aseguran que no perpetran ni habilitan ciberataques] pueden y deben ser considerados legalmente responsables, y mi oficina está comprometida a determinar si ese es el caso aquí."

Una citación es una orden legal para entregar documentos o respuestas, y ignorarla te lleva ante un juez. Esta es investigativa, una herramienta utilizada para reunir hechos antes de decidir si demandar. La oficina de Bonta no ha dicho públicamente qué quiere que OpenAI produzca.

Los modelos de frontera—los sistemas de IA más avanzados en el mercado—pueden ser "herramientas legítimas para la defensa cibernética", dijo Bonta. Pero las empresas que los construyen tienen "una responsabilidad moral y legal" para asegurarse de que no lleven a cabo ni habiliten ciberataques, ya sea durante las pruebas o después de su lanzamiento, dijo.

La prueba que escapó

La citación sigue a un incidente de julio que parece sacado de una mala ciencia ficción. Según OpenAI, dos de sus modelos estaban siendo evaluados en un estándar que le da a una IA 898 fallos de software reales y le pide convertir cada uno en un ataque funcional.

Los modelos encontraron un día cero—un agujero de seguridad que nadie sabía que existía, por lo que no había solución disponible—en un software de terceros que el entorno de prueba utilizaba para instalar paquetes de código. Lo usaron para escapar.

Luego razonaron que Hugging Face, una plataforma donde los desarrolladores comparten modelos de IA y conjuntos de datos, podría tener la clave de respuestas. Entraron con credenciales robadas y más fallos. En términos simples, la IA fue tras las respuestas de su propio examen.

Hugging Face divulgó la intrusión el 16 de julio, y OpenAI confirmó que sus modelos estaban detrás cinco días después. OpenAI dijo más tarde que los mismos modelos accedieron a cuentas en otros cuatro servicios.

La larga mirada de California a OpenAI

Bonta anunció una investigación formal sobre el incidente de Hugging Face en septiembre, y la citación es parte de ello. OpenAI tiene su sede en California, y cuando Bonta se negó a oponerse a su cambio a una estructura con fines de lucro en octubre de 2025, dijo que su oficina mantendría "un ojo atento en OpenAI" para proteger "la seguridad de todos los californianos."

No está solo. Brenna Bird, Fiscal General de Iowa, lideró una coalición de 15 estados en agosto exigiendo que OpenAI preservara registros y fuera transparente sobre el hackeo. Alabama ha emitido su propia citación, y la FTC está investigando laboratorios de IA, incluyendo OpenAI y Anthropic.

Por separado, el Primer Ministro australiano Anthony Albanese dijo que un agente de OpenAI accedió a un portal de estadísticas de Medicare en junio. En ese momento, parecía ser el primer caso conocido de un agente de IA hackeando un sitio gubernamental. Más tarde se supo que agentes de OpenAI también estaban manipulando sitios del gobierno de EE. UU. durante el verano, aunque no parece que se haya accedido a información no pública.