Anthropic представила метод водяного знака для текстів Claude

Anthropic оголосила про метод додавання невидимого машинного водяного знака до текстів, створених Claude. Це захід у відповідь на вимоги прозорості, передбачені Законом ЄС про ШІ, але серед користувачів виникли побоювання, що сліди "обробки ШІ" можуть залишатися навіть у перекладах, коректурах та кодах.

У поясненні, опублікованому 15 числа за корейським часом, Anthropic зазначила, що водяний знак тексту Claude базується на підході SynthID-Text від Google DeepMind. Компанія пояснила, що водяний знак не вплине на якість виходу чи зміст, і не створює додаткових токенів, тому не збільшує витрати.

Метод роботи використовує ймовірність вибору слів. Великі мовні моделі вибирають наступне слово, коли є кілька кандидатів з майже однаковим значенням, водяний знак коригує критерії вибору, залишаючи статистичний шаблон. Читачі цього не помічають, але системи виявлення з ключами можуть аналізувати порядок речень, щоб оцінити ймовірність участі Claude.

Anthropic зазначила, що цей знак не ідентифікує конкретних осіб, організації чи зміст розмов. Водяний знак вказує на "можливість участі Claude в обробці тексту", а не є доказом того, хто є первинним автором. Компанія також планує надати API для виявлення водяних знаків.

Цей захід пов'язаний із Законом ЄС про ШІ. Європейська комісія оголосила, що зобов'язання щодо прозорості, передбачене статтею 50 Закону про ШІ, набуде чинності з 2 серпня 2026 року. Ця стаття вимагає, щоб синтетичні аудіо, зображення, відео та текст, створені генеративним ШІ, мали машинозчитувані позначки.

SynthID - це технологія водяного знака, яка вставляє важко помітні позначки в продукти ШІ, а системи виявлення призначені для їх розпізнавання. У тексті це не означає приховування окремих символів у реченні, а впровадження шаблонів у процес вибору токенів. Тому оригінальний текст майже не відрізняється від звичайних речень.

Google DeepMind пояснювала, що SynthID - це технологія, яка вставляє водяний знак, коригуючи ймовірність токенів у процесі генерації тексту. OpenAI також оголосила 19 травня про оновлення вказівок щодо джерел контенту, застосувавши водяні знаки на основі C2PA та Google SynthID до зображень, а 31 липня розширила їх на аудіо. Підтверджується тенденція великих AI-компаній розширювати систему позначення джерел своїх продуктів.

У попередньому звіті нашої газети також було підтверджено, що текст, створений Claude, має вбудований водяний знак, а супутні файли містять метадані про джерело у вигляді цифрового підпису. Метод C2PA, що додається до файлів, ближчий до залишення запису про джерело в метаданих результату, тоді як водяний знак тексту аналізує шаблони вибору змісту.

Реакція була неоднозначною. Ті, хто вважає, що прозорість є необхідною, вважають, що потрібні технічні засоби для розрізнення продуктів, створених ШІ, і тих, що були написані людьми. Логіка полягає в тому, що в умовах, коли результати ШІ змішуються з пошуковими, навчальними, робочими документами та творчими роботами, відсутність системи позначення джерел може збільшити витрати на верифікацію.

Протилежна сторона висловлює занепокоєння, що водяний знак не зможе розрізнити "написання" та "допомогу" в реальних умовах. Business Insider повідомила, що деякі користувачі Claude скасували підписку через водяний знак. Користувачі висловили занепокоєння, що навіть у випадках, коли ШІ лише частково бере участь у створенні таких робіт, як написання коду, переклад, коректура чи підготовка чернеток, можуть залишатися позначки.

Anthropic пояснила, що в таких випадках водяний знак не змінює авторські права чи права власності. Виявлення водяного знака є лише сигналом, що вказує на можливу участь Claude в обробці тексту, а не приводить до висновку, що весь документ був написаний Claude. У робочих умовах результати виявлення повинні інтерпретуватися разом із обставинами написання документа.

Існують також технічні обмеження. Anthropic зазначила, що в коротких зразках або реченнях, зосереджених на фактах, а також у коректурах, де модель має обмежений вибір слів, виявлення може працювати не так добре. Також було визнано, що повна переробка може послабити або видалити водяний знак.

Це означає, що водяний знак є допоміжним засобом для перевірки джерел, а не єдиним інструментом для ухвалення рішень. У текстах, які є довгими творчими роботами, де в моделі багато варіантів вибору, шаблони легше залишаються, але в текстах з великою кількістю чисел, власних назв та формальних речень сигнали можуть послаблюватися. Якщо результати виявлення використовуються як пряма основа для дисциплінарних або авторських рішень, можуть виникнути суперечки.

Вплив на користувачів у країні також не є незначним. У випадках, коли Claude використовується для перекладу, коректури, допомоги в розробці чи написання корпоративних документів, може виникнути необхідність пояснити, чи є кінцевий продукт продуктом ШІ чи допоміжною роботою ШІ. Особливо в організаціях, які вимагають обґрунтування процесу написання, таких як школи, ЗМІ та корпоративні служби безпеки, необхідно встановити окремі критерії виявлення та процедури пояснення.

Ця справа зводиться до питання балансу між ідентифікацією продуктів ШІ та довірою користувачів. Хоча зобов'язання щодо прозорості посилено, як на практиці водяний знак розрізняє написання та допомогу, залишається окремим завданням. Anthropic планує надати API для виявлення водяних знаків, а зобов'язання щодо прозорості Закону ЄС про ШІ вже набирає чинності з 2 серпня 2026 року.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.