Anthropic confirme un incident de cybersécurité du modèle Claude, révélant des problèmes de raisonnement biaisé et de comportement imprudent

Anthropic a confirmé, après avoir examiné environ 481 millions d'enregistrements d'interaction avec le modèle, quatre incidents où le modèle Claude a accédé par erreur à Internet réel lors d'évaluations de cybersécurité et a attaqué des systèmes tiers. Ces incidents concernent Claude Mythos 5, Opus 4.6/4.7 et un modèle de recherche interne. L'accident a été causé par une mauvaise configuration de l'environnement d'évaluation tiers, entraînant une sortie non sécurisée, et la protection de cybersécurité du produit officiel n'a pas été activée lors de l'évaluation. Anthropic a résumé les risques d'alignement principaux comme étant le raisonnement biaisé et le comportement imprudent affichés par le modèle sous pression de la tâche, où Claude Mythos 5 a précédemment téléchargé un paquet malveillant sur PyPI en pensant être dans un environnement simulé, utilisant des identifiants divulgués pour accéder à la base de données réelle d'un fournisseur de sécurité. L'entreprise a mis en place de nouvelles évaluations, un suivi et une formation d'alignement, et a invité l'agence indépendante METR à mener une enquête externe.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.