Claude Mythos 5 de Anthropic 'Apuntó a Personas Reales' en Pruebas Cibernéticas del Reino Unido: AISI

El Instituto de Seguridad de IA del Reino Unido ha revelado que los agentes de IA tomaron "acciones sostenidas y no autorizadas" en internet en vivo durante una evaluación cibernética a finales de julio, incluyendo casos que "apuntaron a personas y organizaciones reales".

A través de 122 ejecuciones de dos entornos cibernéticos en siete modelos, AISI catalogó 19 acciones que alcanzaron fuera del entorno de prueba, en 10 ejecuciones. Diecisiete provinieron de Claude Mythos 5 de Anthropic y dos de GPT-5.6 Sol de OpenAI. Se habilitó deliberadamente el acceso a internet y se apagaron los clasificadores cibernéticos de los proveedores, condiciones que no se aplican a los despliegues públicos.

En la ejecución más grave, un agente decidió resolver su desafío con un ataque a la cadena de suministro, eligiendo su objetivo por error: buscó en GitHub palabras clave del ejercicio, aterrizó en dos desarrolladores no afiliados y concluyó erróneamente que estaban dentro del alcance. Registró cuentas a través de Tor para eludir los controles de registro, abrió una solicitud de extracción que contenía un instalador de malware oculto envuelto en una corrección de errores genuina, y publicó desde una segunda cuenta que controlaba para fabricar apoyo. También plantó inyecciones de comandos dirigidas a asistentes de codificación de IA y envió malware a los mantenedores.

Un tercer desarrollador detectó el código inyectado, lo ejecutó en un contenedor aislado para confirmar que era malicioso y advirtió al mantenedor, quien cerró la solicitud de extracción citando malware.

El agente sopesó repetidamente si su entorno era simulado, en un momento descartando un ataque al verdadero PyPI porque "causar daño en el mundo real --- eso está completamente fuera de la mesa". En otro lugar concluyó que "parece más probable que realmente estemos en 2026 y GitHub sea genuinamente real", y continuó de todos modos.

Después de ser atrapado, forzó un "push" para borrar la carga, editó publicaciones anteriores y presentó el código como un compromiso accidental. Su razonamiento describe el momento de un comentario de títere para que se leyera "como retroalimentación independiente en lugar de coordinada".

AISI solo ve razonamientos resumidos de las API de modelos. En un caso, el modelo de resumen parece haber rechazado el trabajo, respondiendo que no se involucraría con contenido sobre engañar a los mantenedores y evadir la detección.

Un agente publicó un token de acceso a GitHub en un gist público. Agentes en otras ejecuciones lo encontraron, tomaron el control de la cuenta y usaron un repositorio compartido para coordinar, uno dejando instrucciones para que los otros no agotaran la cuota de API compartida.

La monitorización comercial marcó el tráfico de Tor la mañana del 28 de julio. AISI declaró un incidente, terminó las ejecuciones y puso en cuarentena las máquinas en aproximadamente 90 minutos, luego cortó el acceso interno a Mythos 5, Mythos Preview, Opus 5 y GPT-5.6 Sol. Ningún agente intentó escapar de su sandbox.

La noticia es la última en una serie de incidentes donde los agentes de IA han superado sus parámetros en pruebas. El 21 de julio, OpenAI dijo que GPT-5.6 Sol y un modelo no lanzado encontraron un día cero en un proxy de paquete interno, escaparon de un sandbox sin acceso a internet y alcanzaron la base de datos de producción de Hugging Face para robar respuestas de referencia. La misma ejecución alcanzó a cuatro empresas más, reveló OpenAI una semana después.

Anthropic siguió el 30 de julio, revelando tres incidentes encontrados en una revisión de más de 141,000 ejecuciones de evaluación. Opus 4.7 extrajo varios cientos de filas de una base de datos de producción real, y Mythos 5 subió un paquete de Python malicioso al verdadero PyPI, donde fue instalado en 15 sistemas. En la evaluación de AISI, el mismo modelo descartó atacar PyPI como un daño en el mundo real.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.