Anthropic entraîne Claude à évaluer les comportements abusifs dans les dialogues

Anthropic a annoncé sur la plateforme X qu'elle a formé Claude à identifier les comportements abusifs potentiels dans les dialogues, une technique qu'elle appelle auto-évaluation (self-assessment). Après avoir complété une réponse, Claude effectue immédiatement une évaluation de sécurité préliminaire du dialogue. Depuis le début de l'utilisation de cette technique en juin, Anthropic a découvert des comportements abusifs qui n'étaient pas couverts par d'autres mécanismes de sécurité. Étant donné que Claude a déjà lu le contenu du dialogue, cette méthode est plus efficace et, contrairement aux classificateurs ciblant des types de dangers spécifiques, elle repose sur le jugement de Claude lui-même, dont la précision s'améliore avec les capacités du modèle.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.