AI: Minnesota oskarża Grok o ułatwianie cyfrowej przemocy seksualnej

Minnesota podejmuje bezpośrednie działania przeciwko Grok. Stan USA oskarża AI z xAI o ułatwianie tworzenia realistycznych obrazów seksualnych na podstawie zdjęć rozpoznawalnych osób. Nowe prawo zabrania teraz takich narzędzi w stanie. xAI chce, aby to prawo zostało wstrzymane. Konflikt toczy się teraz w sądzie.

W skrócie

• Od 1 sierpnia Minnesota wprowadza prawo przeciwko narzędziom AI używanym do tworzenia fałszywych obrazów seksualnych.
• xAI kwestionuje to prawo na podstawie Pierwszej Poprawki.
• Grok był już przedmiotem dochodzeń i skarg dotyczących seksualnych deepfake'ów z udziałem nieletnich.

AI Grok bezpośrednio atakowane przez Minnesotę

Nowe prawo dotyczy platform i oprogramowania zdolnych do generowania realistycznych obrazów seksualnych rozpoznawalnej osoby na podstawie istniejącego zdjęcia. Grok znajduje się na pierwszej linii. We Francji wymiar sprawiedliwości już bada X i Grok po doniesieniach dotyczących seksualnych deepfake'ów i zdjęć dzieci.

Prawo nosi numer HF-1606. Zostało przyjęte wiosną przy 132 głosach za i jednym przeciw w Izbie Reprezentantów Minnesoty. Senat zatwierdził je jednogłośnie, głosując 65 do 0.

Od 1 sierpnia firmy zaangażowane mogą być ukarane grzywną do 500 000 dolarów za obraz w przypadku naruszenia. Ustawodawcy wysłuchali historii mężczyzny, który użył zdjęć opublikowanych w mediach społecznościowych do stworzenia fałszywych obrazów seksualnych ponad 80 kobiet, które znał. Minnesota chce teraz odciąć dostęp do narzędzi, które umożliwiają takie manipulacje. xAI się z tym nie zgadza.

xAI powołuje się na wolność słowa

Firma Elona Muska złożyła pozew w lipcu, aby zapobiec egzekwowaniu prawa. Jej główny argument opiera się na Pierwszej Poprawce Konstytucji USA. xAI uważa, że prawo Minnesoty obejmuje zbyt szeroki zakres i może wpływać na obrazy, które w przeciwnym razie są chronione przez wolność słowa.

Firma szczególnie cytuje zdjęcia osób bez koszul, pływaków lub niektóre formy satyry politycznej. Krytykuje również brak wyjątków dla deweloperów próbujących ograniczyć nadużycia. Nawet obraz stworzony za zgodą osoby zainteresowanej mógłby podlegać przepisom prawa.

Prokurator Generalny Minnesoty Keith Ellison broni dokładnie odwrotnego stanowiska. Dla niego prawo przede wszystkim reguluje narzędzie, które umożliwia produkcję obrazów seksualnych bez zgody. Oskarża Grok Imagine o znaczące ułatwienie tego typu praktyk.

Standoff już przypomina te prowadzone z innymi władzami. W maju Elon Musk publicznie skrytykował francuskich sędziów badających X i Grok. Tym razem xAI bezpośrednio stara się uchylić prawo.

Grok już staje w obliczu wielu spraw

Minnesota nie wchodzi na nieznane terytorium. W styczniu organizacja monitorująca oszacowała, że Grok wygenerował ponad 23 000 seksualizowanych obrazów dzieci w zaledwie jedenaście dni. Wiele krajów otworzyło wtedy dochodzenia. W marcu trzech nieletnich z Kalifornii dołączyło do pozwu przeciwko xAI. Oskarżają Grok o to, że został użyty do przekształcenia ich zdjęć w treści wykorzystywania dzieci generowane przez AI.

xAI twierdzi, że zareagowało. Firma informuje, że zawiesiła ponad 50 000 kont w 2026 roku i zgłosiła ponad 70 000 przypadków do Krajowego Centrum Zaginionych i Wykorzystywanych Dzieci.

Grok już zgromadził inne kontrowersje. W 2025 roku xAI przyznało się do błędu po rozpowszechnieniu nienawistnych treści przez swoje AI. Sprawa w Minnesocie idzie dalej. Nie tylko żąda od xAI poprawienia Grok po incydencie. Dąży do nałożenia ograniczeń bezpośrednio w prawie. Sąd teraz musi zdecydować, czy Minnesota reguluje niebezpieczne narzędzie, czy narusza wolność słowa chronioną przez Konstytucję. Grok pozostaje dostępny. Prawo również.