Le PDG d'Amodei propose de ralentir le développement de l'IA

Dario Amodei, PDG d'Anthropic, a déclaré qu'il était nécessaire de ralentir la vitesse d'amélioration des capacités des modèles d'intelligence artificielle (IA) et de dégager du temps pour la recherche sur la sécurité. Elon Musk et Sam Altman ont également exprimé leur accord. Amodei a souligné qu'il fallait obtenir plus de temps entre les moments où les capacités de l'IA s'améliorent considérablement, et a déclaré que les chercheurs et les évaluateurs externes devraient examiner les risques du système avant de passer à l'étape suivante. Il a identifié la perte de contrôle sur les systèmes d'IA avancés, l'exploitation malveillante des cyberattaques et des attaques biologiques, ainsi que les chocs sur l'emploi et l'économie comme des éléments de risque. Amodei croit qu'en ralentissant le développement pour obtenir un délai de 1 à 2 ans et en utilisant ce temps pour des recherches d'alignement, on pourrait réduire le risque de problèmes graves. Anthropic prévoit de fournir aux évaluateurs externes un accès au niveau des employés afin de vérifier directement les mesures de sécurité. Les évaluateurs externes recevront des espaces de travail, des badges d'accès et des ordinateurs portables de l'entreprise, et examineront le système de formation de l'IA ainsi que le contrôle de la sécurité. Amodei a insisté sur le fait que le ralentissement des entreprises américaines doit se faire pour ne pas prendre de retard par rapport aux projets d'IA en Chine, et a évoqué la nécessité d'un cadre réglementaire exigeant transparence, audits indépendants et évaluations continues.