Anthropic introduit un verrou contextuel pour Claude afin d'empêcher la distillation du modèle

Anthropic a introduit un "verrou contextuel" pour la réflexion de Claude, exigeant que les réflexions cryptées générées via l'API soient renvoyées avec les invites système, les outils et les messages historiques au moment de la génération. Si le contenu précédent est modifié, l'API renverra une erreur ou rejettera cette réflexion. Ce changement vise à empêcher la distillation du modèle, car les chercheurs ont découvert que les réflexions cryptées de Claude pouvaient être lues par d'autres modèles, permettant à des attaquants d'utiliser un raisonnement de haute qualité pour induire des modèles plus faibles à divulguer l'intégralité du processus de réflexion. Anthropic avait déjà mis en place une première protection lors du lancement de Fable 5 en juin, limitant les réflexions cryptées à des modèles spécifiques. Fable 5.1 a ajouté un mécanisme de "liaison de conversation", rendant toute modification des invites, des outils ou des historiques de chat précédents obsolètes. Ce verrou n'est pas encore entièrement mis en œuvre ; après le 31 août, les nouveaux comptes API ouverts seront tenus de respecter cette règle, tandis que les anciens comptes ne seront pas affectés pour le moment. Les modèles comme Claude.ai, Claude Code et Cowork ne sont pas concernés, et Anthropic a indiqué que les nouveaux modèles à l'avenir activeront par défaut cette règle.