Anthropic ujawnia sposób na wprowadzenie niewidocznego znaku wodnego w tekstach Claude'a

Anthropic ujawnił sposób wprowadzenia niewidocznego znaku wodnego, który można odczytać maszynowo, w tekstach generowanych przez Claude'a. Jest to działanie w odpowiedzi na obowiązek przejrzystości wynikający z przepisów dotyczących sztucznej inteligencji (AI) Unii Europejskiej (UE), jednak wśród użytkowników pojawiły się obawy, że ślady "przetwarzania AI" mogą pozostać nawet w tłumaczeniach, korektach czy pracach kodowych.

W oświadczeniu opublikowanym 15. dnia miesiąca czasu koreańskiego, Anthropic stwierdził, że znak wodny w tekstach Claude'a oparty jest na podejściu SynthID-Text opracowanym przez Google DeepMind. Firma wyjaśniła, że znak wodny nie wpływa w sposób istotny na jakość ani treść wyjściową, a także nie generuje dodatkowych tokenów, co nie zwiększa kosztów.

Działa to na zasadzie wykorzystania prawdopodobieństwa wyboru słów. Duże modele językowe, gdy tworzą zdania, wybierają kolejne słowo z wielu kandydatów, a gdy istnieje wiele kandydatów o zbliżonym znaczeniu, znak wodny dostosowuje kryteria wyboru, pozostawiając statystyczny wzór. Czytelnik tego nie zauważa, ale system detekcji z kluczem może analizować układ zdań, aby obliczyć prawdopodobieństwo, że Claude był zaangażowany.

Anthropic zaznaczył, że ten znak nie identyfikuje żadnej konkretnej osoby, organizacji ani treści rozmowy. Znak wodny oznacza jedynie "możliwość, że Claude miał udział w przetwarzaniu tekstu", a nie dowód na to, kto jest pierwotnym autorem. Firma planuje również udostępnić API do detekcji znaków wodnych.

Działanie to jest związane z przepisami AI UE. Komisja Europejska ogłosiła w wytycznych opublikowanych 20 lipca, że obowiązek przejrzystości zawarty w artykule 50 przepisów AI wejdzie w życie 2 sierpnia 2026 roku. Przepis ten wymaga, aby generowane przez AI syntetyczne audio, obrazy, wideo i teksty miały oznaczenia, które mogą być odczytane przez maszyny.

SynthID to technologia znakowania, która wprowadza trudne do zauważenia oznaczenia w produktach generowanych przez AI, zaprojektowana tak, aby systemy detekcji mogły je rozpoznać. W przypadku tekstu nie polega na ukrywaniu dodatkowych znaków w zdaniach, lecz na wprowadzeniu wzorów w procesie wyboru tokenów. Dlatego dla osoby czytającej oryginalny tekst, zdania te są prawie nieodróżnialne od zwykłych.

Google DeepMind opisywał SynthID jako technologię, która wprowadza znak wodny poprzez dostosowanie prawdopodobieństwa tokenów w procesie generowania tekstu. OpenAI również ogłosiło 19 maja aktualizację oznaczania źródeł treści, w której zastosowano znakowanie oparte na C2PA i Google SynthID w obrazach, a 31 lipca rozszerzyło to na audio. Widać, że duże firmy AI rozszerzają systemy oznaczania źródeł swoich produktów.

W poprzednich doniesieniach naszej redakcji potwierdzono, że teksty generowane przez Claude'a zawierają wbudowane znaki wodne, a pliki wspierające mają przypisane metadane źródłowe w formie podpisu cyfrowego. Metoda C2PA, która jest przypisana do plików, jest bliższa pozostawieniu zapisu źródła w metadanych wyników, podczas gdy znak wodny w tekście analizuje wzory wyboru samej treści, co stanowi różnicę.

Reakcje były podzielone. Zwolennicy wzmocnienia przejrzystości uważają, że potrzebne są techniczne urządzenia, które pozwolą odróżnić produkty generowane przez AI od tych stworzonych przez ludzi. Argumentują, że w sytuacji, gdy wyniki AI mieszają się z dokumentami wyszukiwania, edukacyjnymi, roboczymi i twórczymi, brak systemu oznaczania źródeł może zwiększyć koszty weryfikacji.

Przeciwnicy obawiają się, że znak wodny może nie rozróżniać w rzeczywistej pracy między "tworzeniem" a "wsparciem". Business Insider donosi, że niektórzy użytkownicy Claude'a anulowali subskrypcje z powodu znaku wodnego. Użytkownicy podnosili, że nawet w przypadkach, gdy AI miało tylko częściowy udział w pracach takich jak pisanie kodu, tłumaczenie, korekta czy porządkowanie szkiców, znak wodny może pozostać.

Anthropic wyjaśnił, że w takich przypadkach znak wodny nie zmienia praw autorskich ani własności. Detekcja znaku wodnego jest jedynie sygnałem, który wskazuje na możliwość, że Claude miał udział w przetwarzaniu tekstu, a nie prowadzi do wniosku, że cały dokument został stworzony przez Claude'a. W miejscu pracy pojawiają się głosy, że wyniki detekcji powinny być interpretowane w kontekście okoliczności powstania dokumentu.

Istnieją również ograniczenia techniczne. Anthropic zaznaczył, że w przypadku krótkich próbek, zdań opartych na faktach czy korekt, gdzie model ma ograniczony wybór słów, detekcja może nie działać skutecznie. Przyznano również, że całkowite przepisanie może osłabić lub usunąć znak wodny.

Oznacza to, że znak wodny jest pomocnym narzędziem do weryfikacji źródła, a nie samodzielnym narzędziem decyzyjnym. W przypadku długich utworów, gdzie model ma wiele opcji wyboru, wzory łatwiej pozostają, ale w tekstach zawierających liczby, nazwy własne czy sformalizowane zdania sygnał może być osłabiony. Jeśli wyniki detekcji będą traktowane jako bezpośrednia podstawa do dyscyplinowania lub oceny praw autorskich, mogą pojawić się kontrowersje.

Wpływ na krajowych użytkowników również nie jest mały. W przypadku korzystania z Claude'a do tłumaczeń, korekt, wsparcia w rozwoju czy tworzenia dokumentów firmowych, może pojawić się konieczność wyjaśnienia, czy ostateczny produkt jest dziełem generowanym przez AI, czy też jest to praca wspierana przez AI. Szczególnie w organizacjach, takich jak szkoły, media czy działy bezpieczeństwa firm, które wymagają wyjaśnienia okoliczności powstania, konieczne będzie ustalenie oddzielnych standardów detekcji i procedur wyjaśniających.

Kwestia ta sprowadza się do problemu równowagi między identyfikacją produktów generowanych przez AI a zaufaniem użytkowników. Obowiązek przejrzystości został wzmocniony, ale jak znak wodny w rzeczywistych warunkach pracy będzie rozróżniał tworzenie i wsparcie, pozostaje osobnym zadaniem. Anthropic planuje udostępnić API do detekcji znaków wodnych, a obowiązek przejrzystości wynikający z przepisów AI UE obowiązuje już od 2 sierpnia 2026 roku.