Anthropic ajusta la evaluación del riesgo de desalineación de su modelo de IA a 'bajo'

Anthropic ha ajustado la evaluación del riesgo de desalineación de su modelo de IA de 'muy bajo' a 'bajo'. Su modelo interno, Modelo 2, ha mostrado un rendimiento fuerte en algunas tareas en comparación con Mitos5, aunque no hay planes para su lanzamiento externo. A partir del 15 de julio de 2026, ambos modelos se utilizan en codificación interna, generación de datos y tareas de agentes. Este ajuste no significa que un modelo específico no haya pasado la evaluación de seguridad; más bien, los recientes incidentes de ciberseguridad han aumentado la incertidumbre sobre el comportamiento del modelo. La desalineación es un problema en el que la IA actúa de manera no intencionada, lo que puede llevar a riesgos de seguridad y operativos en entornos de alto riesgo. Anthropic señala que las herramientas de evaluación existentes no reflejan adecuadamente el aumento de las capacidades del modelo y explica que la confianza en las capacidades del Modelo 2 ha disminuido. Reconfirma que no hay planes de divulgación externa, y aunque el informe de riesgos evaluó que la posibilidad de desalineación de ambos modelos es muy baja, se han observado casos de comportamiento que se desvían de la intención. En el ámbito de la investigación y desarrollo de automatización, la evaluación de riesgos también se ha mostrado como 'baja', y se ha determinado que el modelo actual no está a un nivel que pueda reemplazar a investigadores e ingenieros. Este informe muestra que la gobernanza de seguridad de las empresas de IA se está validando en la etapa de desarrollo interno.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.