Le PDG d'Anthropic répond aux questions sur la sécurité de l'IA, soulignant l'importance de rester à la pointe de la technologie

Anthropic a soumis un projet de loi sur la sécurité de l'IA aux membres du Congrès américain, qui a suscité des critiques. Le projet impose des exigences strictes pour que le gouvernement puisse suspendre d'urgence les modèles dangereux, exigeant que les risques impliquent des armes biologiques, des cyberattaques ou un contrôle défaillant de l'IA, et pouvant entraîner plus de 50 décès ou blessures graves, ou des pertes dépassant 1 milliard de dollars. Certaines dispositions pourraient limiter les pouvoirs de régulation des gouvernements des États. Nathan Calvin, responsable de la stratégie de l'organisation de sécurité de l'IA Encode AI, a souligné qu'Anthropic avait modifié en février de cette année sa politique de sécurité initialement stricte, supprimant l'exigence d'arrêter seul le développement à des stades de risque plus élevé, arguant que les concurrents pourraient en profiter pour prendre de l'avance. Pendant ce temps, Anthropic a investi massivement dans la puissance de calcul, formé une équipe de puces et a confié à Claude davantage de tâches de développement de l'IA. Le 21 octobre, le PDG d'Anthropic, Dario Amodei, a publié un message sur X pour répondre aux critiques, admettant que l'entreprise avait commis des erreurs, mais affirmant que la quête de capacités d'IA de pointe ne contredisait pas sa mission de sécurité, soulignant que seule une position à la pointe de la technologie pouvait pousser l'industrie à améliorer les normes de sécurité. Il a énuméré neuf décisions de sécurité qui ont coûté à l'entreprise sur le plan commercial, y compris la restriction de l'accès aux modèles de niveau Mythos pendant plusieurs mois et des limitations strictes sur les demandes liées à la biologie. La feuille de route de sécurité mise à jour par l'entreprise le 19 octobre indique que les politiques existantes se concentrent principalement sur le déploiement de modèles dangereux, et qu'il pourrait être nécessaire à l'avenir de limiter directement la vitesse de développement, avec l'intention de proposer des politiques connexes d'ici le 15 janvier 2027, ou d'expliquer pourquoi aucune proposition n'a été faite.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.