OpenAI y Anthropic impulsan una revisión de 30 días para modelos de IA de frontera

OpenAI y Anthropic están trabajando juntos en Washington para dar forma a un sistema federal de revisión para modelos avanzados de IA, a pesar de competir por clientes, financiación y liderazgo tecnológico.

Resumen

• OpenAI y Anthropic apoyan hasta 30 días de acceso federal antes de algunos lanzamientos de modelos de frontera.
• El proceso propuesto se aplicaría en toda la industria, incluidos rivales como Meta y xAI.
• Las agencias federales deben desarrollar el marco antes del 1 de agosto bajo una orden ejecutiva de junio.
• Nvidia, Meta y Microsoft advirtieron por separado sobre controles drásticos en modelos de IA de peso abierto.

OpenAI y Anthropic buscan estándares de revisión comunes

OpenAI y Anthropic están instando a la administración de Trump a adoptar un proceso de revisión consistente para modelos de IA con capacidades avanzadas de ciberseguridad o seguridad nacional, según The Information.

Su cooperación se produce antes de una fecha límite del 1 de agosto para que las agencias federales definan qué sistemas deben calificar como "modelos de frontera cubiertos". Esos modelos podrían ser proporcionados al gobierno para evaluación durante un máximo de 30 días antes de su lanzamiento a otros socios de confianza.

Ambas empresas, según informes, quieren que los estándares se apliquen en toda la industria de IA en lugar de limitarse a los desarrolladores que ya cooperan con Washington. Eso podría incluir a empresas competidoras, como Meta y xAI de Elon Musk, bajo el mismo marco de revisión si sus modelos superan el umbral de capacidad eventual.

Las discusiones marcan una rara alineación de políticas entre OpenAI y Anthropic. Ambas empresas venden sistemas de IA de propósito general y compiten por contratos empresariales, investigadores, capacidad de computación e inversión.

Ninguna de las empresas ha publicado públicamente los términos completos que desea incluir en el marco final.

La orden de Trump establece un proceso voluntario de 30 días

El presidente Donald Trump ordenó a las agencias federales establecer un proceso de referencia clasificado a través de la Orden Ejecutiva 14409 el 2 de junio.

La orden dirige a la Agencia de Seguridad Nacional, la Agencia de Ciberseguridad e Infraestructura de Seguridad, el Departamento del Tesoro y otros organismos federales a determinar cuándo un modelo de IA tiene capacidades lo suficientemente fuertes como para justificar una revisión adicional.

Los desarrolladores que participen en el marco podrían preguntar al gobierno si un modelo cumple con el umbral de modelo de frontera cubierto. Luego podrían proporcionar a los evaluadores federales acceso durante un máximo de 30 días antes de poner el sistema a disposición de otros socios aprobados.

La orden requiere salvaguardias para la propiedad intelectual, información confidencial, ciberseguridad y amenazas internas durante la evaluación.

Sin embargo, establece expresamente que el proceso no puede crear reglas de licencia federal obligatorias, preautorizaciones o permisos para desarrollar o lanzar modelos de IA. Por lo tanto, las empresas participarían de forma voluntaria a menos que se apliquen leyes o poderes gubernamentales separados.

Los desarrolladores de IA de EE. UU. buscan claridad antes de los lanzamientos

Un marco compartido podría proporcionar a los desarrolladores de EE. UU. estándares más claros para decidir cuándo se espera la prueba gubernamental. Quedan preguntas sobre qué criterios técnicos desencadenarán una revisión, qué agencias probarán cada sistema y cómo los funcionarios aprobarán a los socios de acceso anticipado.

Esas incertidumbres ya han afectado lanzamientos recientes. OpenAI y Anthropic proporcionaron a los funcionarios del gobierno acceso anticipado a modelos avanzados antes de una distribución más amplia, pero los investigadores externos tuvieron una visibilidad limitada sobre las evaluaciones.

Un informe de julio encontró que las agencias, pruebas y requisitos de aprobación involucrados en esas revisiones seguían siendo poco claros. La falta de un proceso publicado podría dificultar la planificación de lanzamientos para los desarrolladores y dejar a las empresas de IA más pequeñas inseguras sobre si los mismos estándares se aplican a ellas.

Aplicar un umbral basado en capacidades a OpenAI, Anthropic, Meta, xAI y otros desarrolladores podría reducir parte de esa incertidumbre. También podría limitar las preocupaciones de que Washington esté dando un trato diferente a empresas seleccionadas.

El debate sobre la IA de peso abierto divide a la industria

El llamado de OpenAI y Anthropic a un proceso de revisión común llega en un momento en que otras empresas tecnológicas advierten a Washington sobre la imposición de controles amplios sobre los modelos de IA de peso abierto.

Como informó crypto.news la semana pasada, Nvidia, Meta y Microsoft se unieron a otras 22 organizaciones en una carta abierta argumentando que restricciones generales podrían debilitar el liderazgo de EE. UU. a medida que la competencia con China se intensifica. IBM, Palantir, Mistral, Hugging Face, Mozilla, Andreessen Horowitz y la Fundación Linux también firmaron la carta.

El grupo pidió medidas legales y comerciales específicas contra el uso indebido en lugar de restricciones que cubran tecnologías con aplicaciones legítimas de investigación y negocio.

Los modelos de peso abierto permiten a empresas, investigadores y gobiernos descargar software, modificarlo y ejecutarlo en su propia infraestructura. Los partidarios dicen que esto otorga a los usuarios un mayor control sobre sus datos, seguridad y sistemas informáticos, al tiempo que reduce los costos de implementación.

Los firmantes no enmarcaron los modelos abiertos y cerrados como mutuamente excluyentes. En cambio, argumentaron que ambos enfoques son necesarios para apoyar la competencia y ofrecer a los desarrolladores diferentes formas de construir y desplegar sistemas de IA.

El CEO de Nvidia, Jensen Huang, compartió la carta en su primera publicación en X y defendió el papel de ambos modelos de desarrollo.

"El mundo necesita tanto modelos cerrados de frontera como modelos abiertos de frontera."

Elon Musk también apoyó la carta en una respuesta a Huang, aunque su empresa de IA, xAI, no estaba en la lista de los 25 firmantes reportados.

Los dos esfuerzos abordan diferentes partes del debate político. OpenAI y Anthropic buscan evaluaciones federales consistentes para modelos que crucen un umbral de capacidad de seguridad nacional, mientras que la carta abierta argumenta en contra de las restricciones basadas principalmente en si un modelo hace que sus pesos estén disponibles.

Las agencias federales ahora tienen hasta el 1 de agosto para definir el umbral del modelo de frontera y esbozar el proceso de revisión voluntaria. El marco final mostrará si Washington se centra en capacidades medibles o aplica condiciones más amplias basadas en cómo se distribuyen los modelos de IA.