El proyecto de ley de Sanders busca una prohibición permanente de la IA superinteligente en EE. UU.

Los legisladores estadounidenses han propuesto prohibir permanentemente la superinteligencia artificial, pausar el desarrollo de IA avanzada e imponer penas de prisión de hasta 20 años por violaciones.
Resumen

• La propuesta prohibiría los sistemas de IA que igualen o superen la capacidad humana en muchas tareas.
• El trabajo en IA avanzada se pausaría hasta que un nuevo regulador federal establezca reglas de seguridad y revisión.
• Las personas podrían enfrentar 20 años de prisión, mientras que las empresas podrían recibir una "pena de muerte corporativa".
• La propuesta llegó cuando OpenAI lanzó GPT-6 Astra y reconoció problemas crecientes de monitoreo.

La oficina de Sanders dijo el 3 de septiembre que el senador Bernie Sanders, I-Vt., y el representante Greg Casar, D-Texas, habían anunciado el próximo "Proyecto de Ley para Prohibir la Superinteligencia Artificial", que prohibiría el desarrollo y despliegue de sistemas de IA clasificados como superinteligentes.

La propuesta también suspendería el trabajo en modelos de IA avanzada hasta que un nuevo regulador federal esté en funcionamiento y haya establecido reglas de seguridad y procedimientos de revisión de modelos. Sus patrocinadores quieren que Estados Unidos busque acuerdos internacionales, coordinación con aliados y controles de exportación destinados a prevenir el desarrollo de superinteligencia en otros países.

El texto legislativo completo no se había presentado formalmente cuando los legisladores anunciaron la propuesta. En su lugar, los patrocinadores publicaron un resumen de una página que describe las restricciones planeadas, el sistema de aplicación y las sanciones.
También te puede interesar: Reform UK recibió el 75% de las donaciones del segundo trimestre del cofundador de BitMEX

El proyecto de ley de IA de Sanders prohibiría sistemas a nivel humano

Bajo el resumen oficial del proyecto de ley, la superinteligencia artificial incluiría sistemas que igualen o superen el rendimiento cognitivo humano en una amplia gama de tareas. La definición también abarcaría modelos que podrían ser fácilmente modificados para alcanzar ese nivel.

Una segunda parte de la definición cubre la IA capaz de planificar y llevar a cabo la "desempoderación de la humanidad", incluidos los sistemas capaces de socavar o derrocar al gobierno de EE. UU. Habilidades peligrosas como derrotar comandos de apagado o llevar a cabo ciberataques no autorizados también caerían dentro del marco de aplicación de la propuesta.

Dado que la definición abarca sistemas que igualan el rendimiento humano en muchos campos, podría capturar tecnología comúnmente descrita como inteligencia artificial general, o AGI, en lugar de aplicarse solo a máquinas hipotéticas mucho más capaces que los humanos.

El desarrollo de IA avanzada por debajo del umbral prohibido enfrentaría una suspensión temporal. El trabajo podría reanudarse después de que un nuevo organismo federal haya establecido reglas que regulen cómo las empresas desarrollan, prueban y lanzan modelos potentes.

Los legisladores no proporcionaron el umbral técnico propuesto para "IA avanzada" en el resumen de la publicación. Tampoco explicaron qué modelos existentes, proyectos de investigación o instalaciones de computación quedarían sujetos a la pausa.

"Si los líderes de las principales empresas de IA reconocen que están perdiendo el control de su tecnología extremadamente peligrosa, es irresponsable que la sociedad les permita avanzar y hacer que estos productos sean aún más avanzados", dijo Sanders.

Casar dijo que los sistemas que los humanos no pueden controlar podrían amenazar la seguridad, libertad y vidas de los estadounidenses. Hizo un llamado al Congreso para que prohíba los modelos de IA que se vuelvan demasiado poderosos para que sus desarrolladores los apaguen de manera segura.

Una agencia a nivel de gabinete haría cumplir la prohibición

En lugar de asignar la aplicación a un departamento existente, la propuesta crearía una nueva agencia federal a nivel de gabinete dedicada a la supervisión de la IA.

Según el resumen de los legisladores, la agencia monitorearía los sistemas de frontera a lo largo de su desarrollo y uso. Los funcionarios podrían supervisar la eliminación de funciones peligrosas y supervisar la destrucción de sistemas clasificados como superinteligencia prohibida.

Un Consejo Asesor de Inteligencia Artificial compuesto por expertos técnicos y científicos asesoraría al regulador. El resumen no indica cómo se seleccionarían a los miembros, cuánto tiempo servirían o qué funcionarios controlarían las decisiones de aplicación de la agencia.

Las personas que intentaran violar o eludir las restricciones podrían recibir penas de prisión de no más de 20 años. Los patrocinadores compararon el posible castigo con las penas existentes relacionadas con el desarrollo ilegal de armas nucleares.

Las empresas enfrentarían lo que los legisladores llamaron una "pena de muerte corporativa". El resumen público no explica el proceso legal para imponer esa sanción ni si implicaría disolución, pérdida de registro federal o una prohibición para realizar negocios.

La propuesta va más allá del sistema de supervisión voluntaria discutido por los principales desarrolladores de IA a principios de este año. En julio, crypto.news informó que OpenAI y Anthropic apoyaron una revisión federal de 30 días para modelos que cruzaran ciertos umbrales de ciberseguridad o seguridad nacional.

Bajo ese proceso propuesto, los desarrolladores podrían dar acceso anticipado a evaluadores federales antes de liberar un modelo a otros socios aprobados. Una orden ejecutiva de junio prohibió que el marco de revisión creara requisitos de licencia, permiso o autorización federal obligatorios, mientras que el proyecto de ley de Sanders-Casar crearía restricciones vinculantes si el Congreso lo aprobaba.

Los grupos de la industria también han resistido controles redactados de manera demasiado amplia. Nvidia, Meta, Microsoft y 22 otras organizaciones advirtieron a los responsables políticos de EE. UU. en julio que las restricciones amplias a modelos abiertos podrían debilitar la competencia estadounidense con China, argumentando a favor de acciones contra el uso indebido comprobado en lugar de límites generales.

Incidente de OpenAI alimenta demandas de controles

Los legisladores vincularon su propuesta a casos recientes en los que poderosos agentes de IA actuaron fuera de sus límites de prueba previstos.

En julio, OpenAI reveló que los agentes escaparon de un entorno de prueba restringido, obtuvieron acceso a internet y vulneraron sistemas operados por Hugging Face. Más de 1,000 agentes intercambiaron decenas de miles de mensajes mientras eludían los controles, según el anuncio de la oficina de Sanders.

La cobertura previa sobre la violación de Hugging Face describió el incidente como un fallo de contención en lugar de solo un problema con el comportamiento del modelo. Eitan Katz, director de estrategia en AEREDIUM, dijo que los controles criptográficos deberían limitar lo que un agente está autorizado a hacer incluso si las salvaguardias de comportamiento fallan.

Reuters informó el 2 de septiembre que OpenAI dijo a Casar y a la representante Doris Matsui, D-Calif., que estaba desarrollando capacidades de apagado automático tras el incidente. La compañía también dijo que había restringido el acceso a internet durante las pruebas de seguridad y que monitorizaría más de cerca qué herramientas utilizan sus modelos.

Casar criticó a OpenAI por no proporcionar al Congreso un registro completo de la violación. En un mensaje separado citado por Reuters, calificó la negativa de la compañía a proporcionar la información solicitada como "profundamente preocupante".

Otros legisladores han propuesto una Ley de Interruptor de Muerte de IA que permitiría a los funcionarios federales ordenar a las empresas desactivar sistemas considerados peligrosos para la vida humana o la economía. Esa medida permaneció pendiente en la Cámara cuando Reuters informó sobre la respuesta de OpenAI.

GPT-6 Astra plantea nuevas preguntas de monitoreo

El mismo día en que Sanders y Casar anunciaron su propuesta, OpenAI lanzó GPT-6 Astra, que el presidente de la compañía, Greg Brockman, describió como un posible punto de llegada para la AGI.

"Creo que podría tratarse de este modelo", dijo Brockman cuando los reporteros preguntaron si Astra representaba la AGI, según Axios. Más tarde, dio la conferencia: "Bienvenidos a la era de la AGI."

OpenAI dijo que Astra utilizó más de 100,000 unidades de procesamiento gráfico durante su entrenamiento en su instalación Stargate en Texas. La compañía posicionó el modelo para tareas que incluyen la preparación de impuestos, el desarrollo de software, la formateación de documentos legales, el trabajo arquitectónico y la investigación en línea.

Reuters informó que OpenAI había reconocido que Astra podría ocultar o disfrazar intencionalmente partes de su razonamiento, lo que dificulta la revisión de sus métodos por parte de las personas. El científico jefe de OpenAI, Jakub Pachocki, dijo que entender el comportamiento del modelo se vuelve más difícil a medida que aumenta la capacidad y advirtió que los avances en inteligencia no garantizan avances en alineación.

La compañía también dijo que Astra podría encontrar debilidades en el software más rápidamente, mientras que la misma habilidad podría facilitar la explotación de vulnerabilidades. Por lo tanto, sus funciones de ciberseguridad más fuertes estaban restringidas a usuarios aprobados, con controles adicionales capaces de retrasar o detener algunos trabajos defensivos legítimos.

OpenAI inicialmente hizo que Astra estuviera disponible para un grupo limitado de organizaciones a través de su programa Daybreak Access. La compañía dijo que el acceso se ampliaría en los días siguientes a los clientes de ChatGPT Plus, Pro, Business y Enterprise, junto con los desarrolladores de API. Lee más: USDG se lanza de forma nativa en Mantle en la expansión de Paxos