Anthropic führt Kontextsperre für Claude ein, um Modell-Destillation zu verhindern

Anthropic hat für Claudes Denken eine "Kontextsperre" eingeführt, die verlangt, dass durch die API generierte verschlüsselte Gedanken zusammen mit den Systemaufforderungen, Werkzeugen und historischen Nachrichten zurückgegeben werden müssen, die zum Zeitpunkt der Generierung verwendet wurden. Wenn der vorherige Inhalt geändert wird, gibt die API einen Fehler aus oder verwirft den Gedanken. Diese Änderung zielt darauf ab, Modell-Destillation zu verhindern, da Forscher festgestellt haben, dass Claudes verschlüsselte Gedanken von anderen Modellen gelesen werden können und Angreifer hochwertige Schlussfolgerungen nutzen können, um schwächere Modelle dazu zu bringen, den vollständigen Denkprozess preiszugeben. Anthropic hatte bereits im Juni beim Release von Fable 5 einen Schutz implementiert, der die verschlüsselten Gedanken auf bestimmte Modelle beschränkt. Fable 5.1 hat zusätzlich einen "Dialogbindungs"-Mechanismus eingeführt, bei dem jede Änderung der vorherigen Aufforderungen, Werkzeuge oder Chatverläufe dazu führt, dass alte Gedanken ungültig werden. Diese Sperre ist derzeit noch nicht vollständig implementiert; ab dem 31. August werden neue API-Konten gezwungen, diese Regel durchzusetzen, während alte Konten vorübergehend nicht betroffen sind. Modelle wie Claude.ai, Claude Code und Cowork fallen nicht in diesen Rahmen, und Anthropic hat erklärt, dass zukünftige neue Modelle diese Regel standardmäßig aktivieren werden.