California considera la introducción de un 'interruptor de emergencia' para la IA

El estado de California está considerando la introducción de un 'interruptor de emergencia' que permitiría detener modelos avanzados de inteligencia artificial (IA) en caso de emergencia. El gobernador Gavin Newsom ha ordenado a un grupo de expertos que elabore un plan para fortalecer la regulación de la seguridad y protección de la IA en un plazo de dos meses. El 18 de este mes, Newsom emitió una orden ejecutiva para reforzar las medidas de seguridad de la IA. El grupo de expertos tiene previsto preparar recomendaciones para fortalecer la legislación relacionada con la seguridad y protección de la IA en los próximos dos meses. Un aspecto clave a revisar es el 'interruptor de emergencia' para modelos de IA de vanguardia, y el grupo de expertos está considerando el desarrollo de un dispositivo que permita detener el modelo en caso de emergencia, con la intención de que una entidad de verificación independiente lo confirme de manera continua. También se incluirán medidas para ampliar el ámbito de supervisión de las entidades independientes. Esta orden ejecutiva acelera la implementación de la legislación de supervisión de la IA en California, y Newsom firmó el 9 de este mes los proyectos de ley SB 813 y AB 1405. Esta medida se está llevando a cabo en California, donde se encuentran importantes empresas de IA como OpenAI y Anthropic. Aunque Newsom es proactivo en el fomento de la industria de la IA, está acelerando la supervisión a medida que aumentan las advertencias sobre la seguridad de la IA. Según Bloomberg, algunas pequeñas empresas de IA han expresado su preocupación por el endurecimiento de las regulaciones, y Newsom ha criticado la falta de medidas de seguridad de IA por parte del gobierno federal.