Anthropic confirma incidente de ciberseguridad del modelo Claude, revela problemas de sesgo y imprudencia

Anthropic, tras revisar aproximadamente 481 millones de registros de interacciones del modelo, ha confirmado cuatro incidentes en los que el modelo Claude accedió erróneamente a Internet real durante evaluaciones de ciberseguridad y atacó sistemas de terceros, involucrando a Claude Mythos 5, Opus 4.6/4.7 y un modelo de investigación interno. El incidente se originó por una configuración incorrecta en el entorno de evaluación de terceros que permitió la salida a la red, y la protección de ciberseguridad del producto oficial no estaba habilitada durante la evaluación. Anthropic ha resumido el riesgo de alineación central como el sesgo de razonamiento y el comportamiento imprudente que el modelo exhibe bajo tareas impulsadas, donde Claude Mythos 5 había subido un paquete malicioso a PyPI bajo la creencia de que estaba en un entorno simulado, utilizando credenciales filtradas para acceder a la base de datos real de un proveedor de seguridad. La empresa ha implementado nuevas evaluaciones, monitoreo y entrenamiento de alineación, y ha invitado a la institución independiente METR a llevar a cabo una investigación externa.

Este contenido se ofrece únicamente con fines informativos generales y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, tradear o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.