Anthropic stellt unsichtbares Wasserzeichen für Claude-Text vor

Anthropic hat eine Methode vorgestellt, um in von Claude generierte Texte ein für Menschen unsichtbares maschinenlesbares Wasserzeichen einzufügen. Dies ist eine Maßnahme zur Erfüllung der Transparenzpflichten des EU-KI-Gesetzes, jedoch gibt es Bedenken unter den Nutzern, dass auch bei Übersetzungen, Korrekturen und Code-Arbeiten Spuren von "KI-Verarbeitung" zurückbleiben könnten.

In einer Erklärung, die am 15. in koreanischer Zeit veröffentlicht wurde, gab Anthropic bekannt, dass das Textwasserzeichen von Claude auf der SynthID-Text-Methode von Google DeepMind basiert. Das Unternehmen erklärte, dass das Wasserzeichen die Ausgabequalität oder den Inhalt nicht wesentlich beeinflusst und keine zusätzlichen Token erzeugt, wodurch die Kosten nicht steigen.

Die Funktionsweise basiert auf der Wahrscheinlichkeitsauswahl von Wörtern. Große Sprachmodelle wählen beim Erstellen von Sätzen die nächsten Wortkandidaten aus, und wenn es mehrere Kandidaten mit nahezu identischer Bedeutung gibt, passt das Wasserzeichen die Auswahlkriterien an, um statistische Muster zu hinterlassen. Leser bemerken dies nicht, aber ein Detektionssystem mit dem Schlüssel kann die Satzanordnung analysieren und die Wahrscheinlichkeit berechnen, dass Claude beteiligt war.

Anthropic erklärte, dass dieses Zeichen keine spezifischen Personen, Organisationen oder Gesprächsinhalte identifiziert. Das Wasserzeichen bedeutet lediglich, dass "Claude möglicherweise an der Textverarbeitung beteiligt war", und ist kein Beweis dafür, wer der ursprüngliche Autor ist. Das Unternehmen plant auch, eine Wasserzeichenerkennungs-API anzubieten.

Diese Maßnahme steht im Zusammenhang mit dem EU-KI-Gesetz. Die Europäische Kommission gab in den am 20. Juli veröffentlichten Richtlinien bekannt, dass die Transparenzpflicht gemäß Artikel 50 des KI-Gesetzes ab dem 2. August 2026 in Kraft tritt. Diese Bestimmung verlangt, dass synthetische Audio-, Bild-, Video- und Textausgaben, die von generativen KI-Systemen erstellt werden, maschinenlesbare Kennzeichnungen enthalten.

SynthID ist eine Wasserzeichen-Technologie, die schwer erkennbare Markierungen in KI-generierte Produkte einfügt, sodass ein nachträgliches Detektionssystem diese erkennen kann. Bei Texten wird kein separates Zeichen innerhalb des Satzes versteckt, sondern Muster im Auswahlprozess der Tokens eingebaut. Daher sind sie für Personen, die den Originaltext lesen, kaum von normalen Sätzen zu unterscheiden.

Google DeepMind hat erklärt, dass SynthID eine Technologie ist, die die Token-Wahrscheinlichkeiten im Textgenerierungsprozess anpasst, um Wasserzeichen einzufügen. OpenAI gab ebenfalls bekannt, dass sie am 19. Mai ein Update zur Quellenangabe von Inhalten veröffentlicht haben, das Wasserzeichen auf der Grundlage von C2PA und Google SynthID auf Bilder anwendet, und am 31. Juli auf Audio ausgeweitet wurde. Es ist zu erkennen, dass große KI-Unternehmen ihre Systeme zur Quellenangabe von Produkten erweitern.

In einem früheren Bericht unserer Zeitung wurde festgestellt, dass in von Claude generierten Texten ein eingebautes Wasserzeichen vorhanden ist und dass unterstützende Dateien mit einer digitalen Signatur-Metadatenstruktur versehen sind. Die C2PA-Methode, die an Dateien angehängt wird, ist näher daran, die Quellenaufzeichnungen in den Metadaten des Ergebnisses zu hinterlassen, während das Textwasserzeichen die Auswahlmuster des Inhalts analysiert.

Die Reaktionen waren gemischt. Befürworter einer verstärkten Transparenz argumentieren, dass technische Mittel erforderlich sind, um KI-generierte Produkte von menschlich verfassten Arbeiten zu unterscheiden. In Situationen, in denen KI-Ergebnisse mit Such-, Bildungs-, Geschäftsdokumenten und kreativen Arbeiten vermischt werden, könnte das Fehlen eines Systems zur Quellenangabe die Validierungskosten erhöhen.

Gegner befürchten, dass das Wasserzeichen in der Praxis nicht zwischen "Erstellung" und "Unterstützung" unterscheiden kann. Business Insider berichtete, dass einige Claude-Nutzer ihr Abonnement aufgrund des Wasserzeichens gekündigt haben. Nutzer äußerten Bedenken, dass selbst wenn KI nur teilweise an der Erstellung von Arbeiten wie Code, Übersetzungen, Korrekturen oder Entwurfsvorbereitungen beteiligt war, ein Zeichen zurückbleiben könnte.

Anthropic erklärte, dass das Wasserzeichen in solchen Fällen keine Urheberrechte oder Eigentumsrechte ändert. Die Wasserzeichenerkennung ist lediglich ein Signal, das darauf hinweist, dass Claude möglicherweise an der Textverarbeitung beteiligt war, und führt nicht zu dem Schluss, dass das gesamte Dokument von Claude erstellt wurde. In der Arbeitswelt wird darauf hingewiesen, dass die Ergebnisse der Erkennung zusammen mit dem Entstehungsprozess des Dokuments interpretiert werden müssen.

Es gibt auch technische Einschränkungen. Anthropic gab an, dass die Erkennung bei kurzen Proben oder faktisch orientierten Sätzen, bei denen das Modell nur wenige Wörter auswählen kann, möglicherweise nicht gut funktioniert. Es wurde auch anerkannt, dass eine vollständige Neufassung das Wasserzeichen schwächen oder entfernen kann.

Dies bedeutet, dass das Wasserzeichen ein Hilfsmittel zur Quellenvalidierung ist und kein alleinstehendes Bewertungsinstrument. Bei langen kreativen Texten, bei denen das Modell viele Auswahlmöglichkeiten hat, ist es einfacher, Muster zu hinterlassen, während bei Texten mit vielen Zahlen, Eigennamen und standardisierten Sätzen das Signal schwächer werden kann. Wenn die Ergebnisse der Erkennung als direkte Grundlage für Disziplinarmaßnahmen oder Urheberrechtsentscheidungen verwendet werden, könnte es zu Streitigkeiten kommen.

Auch für inländische Nutzer hat dies erhebliche Auswirkungen. Wenn Claude für Übersetzungen, Korrekturen, Entwicklungsunterstützung oder die Erstellung von Unternehmensdokumenten verwendet wird, könnte es erforderlich sein, zu erklären, ob das Endprodukt ein KI-generiertes Produkt oder ein KI-unterstütztes Werk ist. Insbesondere in Organisationen wie Schulen, Medien und Unternehmenssicherheitsabteilungen, die den Entstehungsprozess überprüfen, müssen separate Kriterien für die Erkennung und den Nachweis festgelegt werden.

Diese Angelegenheit reduziert sich auf das Gleichgewicht zwischen der Identifizierung von KI-generierten Produkten und dem Vertrauen der Nutzer. Die Transparenzpflichten wurden verstärkt, aber wie das Wasserzeichen in der Praxis zwischen Erstellung und Unterstützung unterscheiden kann, bleibt eine separate Herausforderung. Anthropic plant, eine Wasserzeichenerkennungs-API anzubieten, und die Transparenzpflichten des EU-KI-Gesetzes gelten bereits seit dem 2. August 2026.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.