Twitch entrena su IA con contenido de transmisiones en vivo por defecto: ¿por qué un 'botón de salida' no resolvió el problema de confianza?

Informe de CoinWorld:

Twitch ha añadido recientemente una nueva configuración de cuenta que permite a los streamers optar por salir del entrenamiento del modelo de IA generativa de Amazon. El problema es que esta configuración está habilitada por defecto, lo que significa que los streamers deben desactivarla activamente. La ayuda de Twitch indica que el contenido que podría ser utilizado para mejorar futuros modelos no solo incluye las transmisiones en vivo, sino que también podría abarcar chats en vivo, grabaciones, clips, resúmenes y texto e imágenes en el canal. Para muchos creadores cuyo activo central son el sonido, la imagen y la interacción, esto no es una simple preferencia de producto, sino que representa un cambio en los límites del uso del contenido.

La controversia en torno a este asunto se amplió rápidamente después del 12 de agosto. Twitch Support inicialmente presentó la opción de salida a través de las redes sociales, y luego enfatizó que "no es Twitch quien entrena el modelo", sino que se trata de salir del entrenamiento del modelo de IA generativa de Amazon. Esta formulación puede ser válida desde una perspectiva organizativa, pero no aborda la preocupación más importante de los creadores: si el contenido en la plataforma será utilizado para el entrenamiento de modelos de la misma empresa matriz y si el estado por defecto representa un consentimiento real.

La explicación del responsable de producto de Twitch sobre "si se cambiara a unirse activamente, probablemente nadie querría unirse" amplificó aún más la reacción negativa. Esto señala inadvertidamente el valor de la opción por defecto: la plataforma no ignora que los usuarios pueden rechazar, sino que se aprovecha de que los usuarios no revisan la configuración, no comprenden los cambios o no tienen tiempo para actuar, obteniendo así un mayor conjunto de datos para el entrenamiento. Incluso si los usuarios tienen un botón de salida, la elección de la estructura seguirá afectando significativamente el resultado final.

Es necesario distinguir con precisión entre lo que se ha confirmado y lo que aún no está claro. Lo que se ha confirmado es que Twitch ha proporcionado una configuración para salir del entrenamiento de IA generativa de Amazon y ha enumerado el contenido del canal que podría estar involucrado; lo que no está claro es qué modelos específicos han utilizado contenido histórico, cuándo se hará efectiva completamente la salida, si los datos que ingresaron previamente al proceso de entrenamiento pueden ser eliminados y cómo se manejará el contenido generado por los streamers en chats de otros canales. La declaración pública de la plataforma no responde a todas las preguntas sobre el ciclo de vida de los datos.

Permitir por defecto que el "consentimiento" se convierta en una tarea que el usuario debe descubrir

Las plataformas digitales a menudo utilizan opciones por defecto para gestionar configuraciones complejas, ya que no es posible que los usuarios decidan cada detalle técnico uno por uno. Pero cuando el propósito se expande de "proporcionar servicios de transmisión en vivo" a "entrenar modelos que pueden generar texto, imágenes, sonido o video", el propósito de uso ha cambiado claramente. Los streamers suben contenido para interactuar con su audiencia y generar ingresos, lo que no equivale a un consentimiento natural para que su contenido sea utilizado para entrenar otro tipo de producto.

El mecanismo de salida parece conservar el control, pero en realidad transfiere todos los costos de descubrimiento, comprensión y acción al usuario. Los streamers deben saber que la política ha cambiado, encontrar la página de configuración, entender el significado del interruptor y luego decidir si desactivarlo. Los usuarios que no siguen cuentas oficiales, que están en un período de inactividad o que hablan diferentes idiomas, pueden mantener el estado por defecto durante mucho tiempo. El verdadero consentimiento activo debería permitir que la plataforma explique primero el propósito, y luego el usuario elija explícitamente, en lugar de interpretar el silencio como permiso.

El contenido de las transmisiones en vivo tiene una complejidad que el texto de una página web común no tiene. En una transmisión en vivo, pueden aparecer simultáneamente el streamer, invitados en línea, voces de juegos, música, chats de la audiencia y material de terceros. Los streamers pueden controlar la configuración de su cuenta, pero no necesariamente tienen el derecho de autorizar el entrenamiento en nombre de todos los participantes. Incluso si los términos de la plataforma otorgan amplios derechos de uso, la disponibilidad en términos de cumplimiento no equivale a ser razonable en las relaciones con los creadores.

Para los streamers profesionales, la voz, la apariencia, los hábitos lingüísticos y el estilo de contenido son en sí mismos medios de producción. Si el modelo en el futuro puede imitar expresiones similares o generar automáticamente fragmentos de transmisiones en vivo, las preocupaciones de los creadores no solo se centran en la privacidad, sino también en la sustitución y el poder de negociación. La plataforma obtiene datos de entrenamiento, la empresa matriz obtiene capacidades de modelo, pero no está claro si los creadores originales reciben compensación, reconocimiento o informes de uso.

Si la plataforma quiere reparar la confianza, no solo necesita conservar un interruptor

El primer paso debe ser proporcionar una notificación independiente y comprensible. Los cambios importantes en el uso no deberían estar ocultos solo en la configuración de la cuenta o en la cuenta de soporte, sino que deberían mostrarse claramente en el panel de control de los creadores, explicando qué contenido está involucrado, para qué modelos sirve, desde cuándo y cómo se puede retirar. La notificación también debe distinguir entre contenido futuro y contenido histórico, evitando que los usuarios piensen que desactivar el interruptor eliminará automáticamente los datos pasados.

El segundo paso es establecer límites de ejecución verificables. Después de que el streamer desactive la opción, la plataforma debe explicar cómo se detendrá el uso de los datos en cada etapa de recopilación, preprocesamiento, conjunto de entrenamiento y evaluación del modelo. Si ciertos datos ya han entrado en un proceso de entrenamiento irreversible, también debe informarse claramente, en lugar de ocultar las limitaciones técnicas con un vago "no se utilizará en el futuro". Para los creadores profesionales, lo mejor sería proporcionar un registro de estado y el tiempo de efectividad.

El tercer paso es discutir el intercambio de valor. Si la plataforma considera que el contenido de las transmisiones en vivo tiene valor comercial para el modelo, es difícil mantener al mismo tiempo que los creadores no necesitan recibir ninguna compensación. Los mecanismos posibles incluyen unirse a programas de forma activa, compartir ingresos, limitar el uso del modelo o utilizar solo contenido que haya recibido autorización por separado. No todos los entrenamientos deben ser remunerados, pero cuanto más se acerque a utilizar la identidad y el estilo del creador, más fuerte debe ser el permiso y la compensación.

Esta controversia muestra que el problema de los datos de entrenamiento de IA ha pasado de la recopilación de páginas web a plataformas cerradas. La plataforma tiene ventajas en servidores, cuentas y términos, pero aún depende de que los creadores sigan produciendo contenido. Permitir por defecto puede aumentar la cantidad de datos a corto plazo, pero a largo plazo puede hacer que los usuarios vean cada actualización de producto como una posible apropiación de datos. Lo que Twitch realmente necesita resolver no es cómo hacer que más personas olviden el botón de salida, sino cómo demostrar que la plataforma sigue considerando a los creadores como socios, y no como un grupo de materiales de entrenamiento disponibles por defecto.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.