IA: Minnesota acusa a Grok de facilitar la violencia sexual digital

Minnesota ataca directamente a Grok. El estado estadounidense acusa a la IA de xAI de facilitar la creación de imágenes sexuales realistas a partir de fotos de personas identificables. Una nueva ley prohíbe ahora este tipo de herramienta en el estado. xAI quiere que se suspenda. El conflicto ahora se juega ante la justicia.

En resumen

• Minnesota aplica desde el 1 de agosto una ley contra las herramientas de IA utilizadas para crear imágenes sexuales falsas.
• xAI impugna el texto en nombre de la Primera Enmienda.
• Grok ya estaba bajo investigación y denuncias por deepfakes sexuales que involucraban a menores.

La IA Grok directamente apuntada por Minnesota {#h-la-ia-grok-directamente-apuntada-por-minnesota}

La nueva ley apunta a las plataformas y software capaces de generar imágenes sexuales realistas de una persona identificable a partir de una foto existente. Grok se encuentra en la primera línea. En Francia, la justicia ya investiga a X y Grok tras denuncias sobre deepfakes sexuales e imágenes de niños.

El texto lleva el número HF-1606. Fue adoptado en primavera con 132 votos a favor y uno en contra en la Cámara de Minnesota. El Senado lo aprobó por unanimidad, 65 votos a cero.

Desde el 1 de agosto, las empresas involucradas enfrentan multas de hasta 500,000 dólares por imagen en caso de violación. Los legisladores escucharon la historia de un hombre que utilizó fotos publicadas en redes sociales para fabricar imágenes sexuales falsas de más de 80 mujeres que conocía. Minnesota ahora quiere cortar el acceso a las herramientas que permiten este tipo de manipulación. xAI no está de acuerdo.

xAI invoca la libertad de expresión {#h-xai-invoca-la-libertad-de-expresion}

La empresa de Elon Musk llevó el asunto a la justicia en julio para impedir la aplicación de la ley. Su argumento principal se basa en la Primera Enmienda de la Constitución estadounidense. xAI considera que el texto de Minnesota abarca un campo demasiado amplio y podría afectar imágenes que están protegidas por la libertad de expresión.

La empresa cita, entre otras, fotos de personas sin camiseta, nadadores o ciertas formas de sátira política. También critica la falta de excepciones para los desarrolladores que intentan limitar los abusos. Incluso una imagen creada con el consentimiento de la persona involucrada podría caer bajo el alcance de la ley.

El fiscal general de Minnesota, Keith Ellison, defiende exactamente lo contrario. Para él, el texto regula sobre todo una herramienta que permite producir imágenes sexuales sin consentimiento. Acusa a Grok Imagine de haber facilitado considerablemente este tipo de práctica.

El tira y afloja ya se asemeja al que se ha llevado a cabo con otras autoridades. En mayo, Elon Musk se había dirigido públicamente a los magistrados franceses que investigan a X y Grok. Esta vez, xAI intenta directamente derrocar la ley.

Grok ya tiene varios casos en su contra {#h-grok-ya-tiene-varios-casos-en-su-contra}

Minnesota no llega a un terreno vacío. En enero, una organización de vigilancia estimó que Grok había generado más de 23,000 imágenes sexualizadas de niños en solo once días. Varios países luego abrieron investigaciones. En marzo, tres menores en California se unieron a un procedimiento contra xAI. Acusan a Grok de haber servido para transformar sus fotos en contenidos pedocriminales generados por IA.

xAI afirma haber reaccionado. La empresa dice haber suspendido más de 50,000 cuentas en 2026 y haber enviado más de 70,000 denuncias al National Center for Missing and Exploited Children.

Grok ya había acumulado otras controversias. En 2025, xAI reconoció un error tras la difusión de contenido de odio por su IA. El caso de Minnesota va más allá. No solo pide a xAI que corrija a Grok después de un incidente. Busca imponer límites directamente en la ley. La justicia deberá decidir ahora si Minnesota regula una herramienta peligrosa o si invade la libertad de expresión protegida por la Constitución. Grok sigue disponible. La ley también.