El CEO de Anthropic responde a las dudas sobre la seguridad de la IA, enfatizando la importancia de estar a la vanguardia tecnológica

Anthropic ha presentado un borrador de ley sobre la seguridad de la IA a los miembros del Congreso de EE. UU., el cual ha sido objeto de críticas. Este borrador establece altos umbrales para que el gobierno detenga de manera urgente modelos peligrosos, exigiendo que los riesgos involucren armas biológicas, ciberataques o pérdida de control de la IA, y que puedan causar más de 50 muertes o lesiones graves, o pérdidas superiores a 1.000 millones de dólares. Algunas disposiciones podrían limitar la autoridad reguladora de los gobiernos estatales. Nathan Calvin, responsable de estrategia de la organización de seguridad de IA Encode AI, señaló que Anthropic modificó en febrero de este año su política de seguridad, que originalmente era estricta, eliminando el requisito de detener el desarrollo de manera independiente en etapas de mayor riesgo, argumentando que los competidores podrían aprovechar la oportunidad para adelantarse. Al mismo tiempo, Anthropic ha invertido enormes cantidades de potencia de cálculo, formando un equipo de chips y asignando a Claude más tareas de desarrollo de IA. El 21 de octubre, el CEO de Anthropic, Dario Amodei, publicó en X para refutar las críticas, admitiendo que la empresa había cometido errores, pero insistiendo en que la búsqueda de capacidades de IA de vanguardia no contradice su misión de seguridad, enfatizando que solo al mantenerse a la vanguardia tecnológica se puede impulsar a la industria a elevar los estándares de seguridad. Enumeró nueve decisiones de seguridad que han costado a la empresa en términos comerciales, incluyendo la restricción de la apertura de modelos de nivel Mythos durante meses y la limitación estricta de solicitudes relacionadas con la biología. El mapa de ruta de seguridad actualizado de la empresa el 19 de octubre indica que las políticas actuales se centran principalmente en el despliegue de modelos peligrosos, y que en el futuro podría ser necesario limitar directamente la velocidad de desarrollo, planeando presentar propuestas de políticas relacionadas antes del 15 de enero de 2027, o explicar por qué no se han presentado.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.