El CEO de Anthropic, Dario Amodei, propone ralentizar el desarrollo de la IA

Dario Amodei, CEO de Anthropic, ha afirmado que se debe ralentizar la velocidad de mejora de las capacidades de los modelos de inteligencia artificial (IA) y asegurar tiempo para la investigación en seguridad. Elon Musk y Sam Altman también han apoyado esta idea. Amodei enfatizó que se necesita más tiempo entre los momentos de gran mejora de la IA, y que los investigadores y evaluadores externos deben revisar los riesgos del sistema antes de avanzar a la siguiente etapa. Señaló como riesgos la pérdida de control sobre sistemas de IA avanzados, el uso indebido de ataques cibernéticos y biológicos, y el impacto en el empleo y la economía. Amodei cree que al ralentizar el proceso y asegurar uno o dos años para la investigación alineada, se puede reducir el riesgo de problemas graves. Anthropic planea proporcionar a los evaluadores externos acceso a nivel de empleado para que puedan verificar las medidas de seguridad directamente. Los evaluadores externos recibirán acceso a espacios de trabajo, tarjetas de acceso y computadoras portátiles de la empresa, y revisarán el sistema de entrenamiento de IA y el control de seguridad. Amodei subrayó la necesidad de que la regulación exija transparencia, auditorías independientes y evaluaciones continuas, para que la ralentización de las empresas estadounidenses no las haga quedar atrás frente a los proyectos de IA de China.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.