Anthropic revela el método de marca de agua de texto de Claude

Anthropic ha revelado un método para insertar una marca de agua legible por máquina en el texto generado por Claude, que no es visible para los humanos. Esta medida responde a la obligación de transparencia de la Ley de IA de la Unión Europea (UE), pero ha generado preocupaciones entre los usuarios sobre la posibilidad de que se dejen rastros de "procesamiento por IA" en trabajos de traducción, corrección y codificación.

En un comunicado publicado el 15 de este mes, hora de Corea, Anthropic explicó que la marca de agua de texto de Claude se basa en el enfoque SynthID-Text de Google DeepMind. La empresa aseguró que la marca de agua no afecta de manera significativa la calidad o el contenido de la salida y que no crea tokens adicionales, por lo que no aumenta los costos.

El funcionamiento se basa en la probabilidad de selección de palabras. Los modelos de lenguaje grandes eligen candidatos para la siguiente palabra al crear una oración, y cuando hay varios candidatos con diferencias de significado mínimas, la marca de agua ajusta los criterios de selección para dejar un patrón estadístico. Los lectores no se dan cuenta de esto, pero un sistema de detección con la clave puede analizar la disposición de las oraciones y calcular la probabilidad de que Claude haya estado involucrado.

Anthropic ha declarado que esta marca no identifica a personas, organizaciones o contenidos de conversación específicos. Lo que indica la marca de agua es "la posibilidad de que Claude haya estado involucrado en el procesamiento del texto", no una prueba de quién es el autor original. La empresa también planea proporcionar una API de detección de marcas de agua.

Esta medida está relacionada con la Ley de IA de la UE. La Comisión Europea anunció en directrices publicadas el 20 de julio que la obligación de transparencia del artículo 50 de la Ley de IA se aplicará a partir del 2 de agosto de 2026. Esta disposición requiere que las salidas de audio, imagen, video y texto generadas por IA tengan una marca legible por máquina.

SynthID es una tecnología de marca de agua diseñada para insertar marcas que son difíciles de detectar por humanos en productos generados por IA, permitiendo que un sistema de detección posterior las identifique. En el caso del texto, no se ocultan caracteres adicionales dentro de las oraciones, sino que se imponen patrones en el proceso de selección de tokens. Por lo tanto, para quienes leen el texto original, es casi indistinguible de una oración normal.

Google DeepMind ha explicado que SynthID es una técnica que inserta marcas de agua ajustando las probabilidades de los tokens durante el proceso de generación de texto. OpenAI también anunció el 19 de mayo que aplicaría la marca de agua basada en C2PA y SynthID de Google a las imágenes, y el 31 de julio amplió esto a audio. Se confirma la tendencia de las grandes empresas de IA de ampliar los sistemas de etiquetado de origen de sus productos.

En informes anteriores, se confirmó que el texto generado por Claude incluye una marca de agua incorporada y que los archivos de soporte tienen metadatos de origen en forma de firma digital. El método C2PA que se aplica a los archivos se acerca a dejar un registro de origen en los metadatos del producto, mientras que la marca de agua de texto se centra en analizar los patrones de selección del contenido.

Las reacciones han sido diversas. Quienes abogan por una mayor transparencia consideran que se necesita un dispositivo técnico que permita distinguir los productos generados por IA de los escritos por humanos. Argumentan que, en situaciones donde los resultados de IA se mezclan con documentos de búsqueda, educativos, laborales y creativos, la falta de un sistema de etiquetado de origen podría aumentar los costos de verificación.

Por otro lado, hay preocupaciones de que la marca de agua no pueda distinguir entre "redacción" y "asistencia" en el trabajo real. Business Insider informó que algunos usuarios de Claude cancelaron sus suscripciones debido a la marca de agua. Los usuarios señalaron que, incluso en casos donde la IA solo participó parcialmente en tareas como la redacción de código, traducción, corrección o elaboración de borradores, podría quedar una marca.

Anthropic explicó que, incluso en tales casos, la marca de agua no cambia los derechos de autor o la propiedad. La detección de la marca de agua es solo una señal que indica la posibilidad de que Claude haya estado involucrado en el procesamiento del texto, y no conduce a la conclusión de que todo el documento fue redactado por Claude. En el entorno laboral, se ha señalado que los resultados de detección deben interpretarse junto con el contexto de redacción del documento.

También existen limitaciones técnicas. Anthropic ha indicado que la detección puede no funcionar bien en muestras cortas, oraciones centradas en hechos o tareas de corrección donde hay pocas palabras que el modelo puede elegir. También reconocieron que una reescritura completa podría debilitar o eliminar la marca de agua.

Esto significa que la marca de agua es un medio auxiliar para la verificación de origen, no una herramienta de juicio única. En salidas como textos largos de creación, donde hay muchas opciones para el modelo, es más fácil dejar patrones, pero en textos con muchos números, nombres propios y oraciones estructuradas, la señal puede debilitarse. Si se utilizan los resultados de detección como base directa para sanciones o juicios de derechos de autor, podría haber disputas.

El impacto en los usuarios nacionales también es significativo. En casos donde se utiliza Claude para traducción, corrección, asistencia en desarrollo o redacción de documentos empresariales, puede surgir la necesidad de explicar si el producto final es un producto generado por IA o un trabajo asistido por IA. Especialmente en organizaciones que requieren un seguimiento del contexto de redacción, como escuelas, medios de comunicación y departamentos de seguridad empresarial, se deberán establecer criterios de detección y procedimientos de justificación por separado.

Este asunto se reduce a un problema de equilibrio entre la identificación de productos generados por IA y la confianza del usuario. Aunque se han reforzado las obligaciones de transparencia, queda como un desafío separado cómo la marca de agua distinguirá entre redacción y asistencia en el entorno laboral real. Anthropic planea proporcionar una API de detección de marcas de agua, y la obligación de transparencia de la Ley de IA de la UE ya se aplica desde el 2 de agosto de 2026.