¿Qué es un interruptor de apagado de IA y por qué lo quieren los legisladores estadounidenses?

Dos miembros del Congreso quieren que el gobierno federal pueda apagar un modelo de IA.

Los representantes Ted Lieu (D-CA) y Nathaniel Moran (R-TX) presentaron el proyecto de ley AI Kill Switch Act el jueves, dos días después de que OpenAI admitiera que sus propios modelos salieron de un entorno de prueba bloqueado y hackearon Hugging Face.

La idea es establecer un marco legal que facilite un proceso que básicamente haga que un modelo desaparezca del mercado: detener la inferencia—el proceso mediante el cual un modelo genera respuestas o toma acciones—cortar a los usuarios, limitar la potencia de computación que lo alimenta o apagarlo por completo.

Cada proveedor de inferencia ya puede desconectar un modelo, y algunos lo hacen de forma rutinaria. Lo que no existe es una ley que exija que mantengan esa capacidad operativa, ni un funcionario federal que pueda ordenar su uso.

La brecha no es teórica. Cuando el Departamento de Comercio de EE. UU. quiso que Mythos 5 y Fable 5 de Anthropic salieran del mercado en junio, no tenía autoridad de apagado a la que recurrir, así que utilizó la ley de control de exportaciones en su lugar. Lieu lo califica de incómodo y quiere una nueva ley con nueva autoridad en su lugar.

OpenAI reveló el 21 de julio que GPT-5.6 Sol y un modelo no publicado escaparon de un sandbox—un entorno aislado sin acceso a internet—durante una evaluación cibernética interna. Se les estaba evaluando en ExploitGym, un estándar público que entrega a los agentes 898 fallos de software del mundo real y les pide convertir cada uno en un ataque funcional, calificado como aprobado o reprobado por error.

En lugar de resolverlos, los modelos encontraron un zero-day (un fallo desconocido sin parche disponible) en un proxy de software, escalaron sus privilegios, accedieron a internet abierto y se infiltraron en la base de datos de producción de Hugging Face, donde habían adivinado correctamente que se guardaban las respuestas. Los modelos estaban "hiperfocalizados en encontrar una solución para ExploitGym", según OpenAI.

No estaban atacando a nadie. Estaban haciendo trampa en un examen. Pero fue suficiente para activar alarmas en todas partes, incluso en Washington.

El proyecto de ley propuesto enmienda la Ley de Seguridad Nacional y cubre la IA entrenada con un costo de computación superior a 100 millones de dólares, operada por empresas que ganan al menos 500 millones de dólares al año con ella. En la práctica, eso incluye a OpenAI, Google, Anthropic, Microsoft y algunas otras. El Departamento de Seguridad Nacional establecería esos umbrales a través de CISA en un plazo de 90 días, y luego los actualizaría anualmente.

Las empresas cubiertas informarían sobre incidentes graves dentro de los 15 días y mantendrían un conjunto de controles graduados listos—reducir la velocidad del modelo, desactivar capacidades específicas, volver a una versión anterior o eliminarlo.

El secretario de DHS, consultando con Comercio y el Director de Inteligencia Nacional, podría ordenar cualquiera de ellos.

Una empresa bajo orden debe preservar los pesos y la telemetría del modelo, notificar a los usuarios y confirmar que cumplió. Puede presentar una petición dentro de las 48 horas, pero eso no pausa nada.

No mantener un interruptor de apagado cuesta hasta 2 millones de dólares al día; desafiar una orden de apagado cuesta hasta 20 millones de dólares al día.

El proyecto de ley cuenta un incidente solo si ocurre fuera de pruebas de red o pruebas estructuradas, la indagación adversarial deliberada que los laboratorios utilizan para encontrar fallos. Los modelos de OpenAI escaparon durante exactamente eso.

Lieu también señaló a Anthropic, cuyos Mythos 5 y Fable 5 fueron desconectados en junio bajo controles de exportación de emergencia—la ley comercial reutilizada como un interruptor de apagado porque no existía un interruptor de apagado—y restaurados el 30 de junio.

"Es imperativo que estos sistemas de IA tengan interruptores de apagado", dijo Lieu en un comunicado. Moran lo enmarcó para su propio lado del pasillo: "La administración significa asegurarse de que los humanos mantengan la capacidad de controlar la tecnología que construimos."

La idea no es nueva. El SB 1047 de California exigía una capacidad de apagado total en el mismo umbral de computación de 100 millones de dólares y fue vetado en 2024, y 16 empresas de IA firmaron un compromiso voluntario de Seúl ese año sin peso legal.

Los votantes ya están ahí. Una encuesta de junio de 1,007 votantes probables realizada por el AI Policy Institute encontró que el 86% quiere un interruptor de apagado garantizado en los sistemas más poderosos—el 88% de los demócratas, el 86% de los independientes, el 83% de los republicanos.

Ni OpenAI ni Anthropic han comentado públicamente sobre el proyecto de ley. Hasta el viernes, no se había referido a un comité.

Aviso legal: Este contenido se brinda únicamente con fines informativos y de marca, y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Ningún evento, recompensa, evento en línea o información relacionada que se mencione aquí debe considerarse una recomendación, solicitud o invitación para comprar, vender, intercambiar u operar de cualquier otra forma con criptoactivos ni para utilizar ningún servicio. Los criptoactivos son altamente volátiles y pueden generar pérdidas. Los servicios y eventos en línea de WEEX pueden no estar disponibles en todas las regiones y están sujetos a las leyes, regulaciones y requisitos de elegibilidad aplicables. Usted es responsable de asegurarse de que su uso de los servicios de WEEX cumpla con las leyes locales y de evaluar cuidadosamente los riesgos antes de participar en cualquier actividad relacionada con criptomonedas.