Искусственный интеллект: Миннесота обвиняет Grok в содействии цифровым сексуальным насилиям

Миннесота напрямую нацелилась на Grok. Американский штат обвиняет ИИ xAI в содействии созданию реалистичных сексуальных изображений на основе фотографий идентифицируемых людей. Новый закон теперь запрещает такого рода инструменты в штате. xAI хочет приостановить его действие. Конфликт теперь разыгрывается в суде.

Кратко

• С 1 августа Миннесота применяет закон против инструментов ИИ, используемых для создания ложных сексуальных изображений.
• xAI оспаривает закон на основании Первой поправки.
• Grok уже подвергался расследованиям и жалобам по поводу сексуальных дипфейков, в том числе с участием несовершеннолетних.

ИИ Grok напрямую под прицелом Миннесоты

Новый закон нацелен на платформы и программное обеспечение, способные генерировать реалистичные сексуальные изображения идентифицируемого человека на основе существующей фотографии. Grok оказывается в первой линии. Во Франции правосудие уже проводит расследование в отношении X и Grok после сообщений о сексуальных дипфейках и изображениях детей.

Документ имеет номер HF-1606. Он был принят весной с 132 голосами «за» и одним «против» в Палате представителей Миннесоты. Сенат одобрил его единогласно, 65 голосов «за» и ноль «против».

С 1 августа компании, попадающие под действие закона, рискуют получить штраф до 500 000 долларов за каждое изображение в случае нарушения. Законодатели услышали историю о мужчине, который использовал фотографии, опубликованные в социальных сетях, чтобы создать ложные сексуальные изображения более 80 женщин, которых он знал. Теперь Миннесота хочет ограничить доступ к инструментам, позволяющим такие манипуляции. xAI не согласен.

xAI ссылается на свободу слова

Компания Илона Маска обратилась в суд в июле, чтобы предотвратить применение закона. Ее основной аргумент основан на Первой поправке к Конституции США. xAI считает, что текст Миннесоты охватывает слишком широкий круг и может затронуть изображения, защищенные свободой слова.

Компания в частности упоминает фотографии людей без рубашки, пловцов или некоторые формы политической сатиры. Она также критикует отсутствие исключения для разработчиков, которые пытаются ограничить злоупотребления. Даже изображение, созданное с согласия заинтересованного лица, может подпадать под действие закона.

Генеральный прокурор Миннесоты Кит Эллисон защищает совершенно противоположную точку зрения. По его словам, текст регулирует в первую очередь инструмент, позволяющий производить сексуальные изображения без согласия. Он обвиняет Grok Imagine в том, что тот значительно облегчает подобные практики.

Противостояние уже похоже на то, что было с другими властями. В мае Илон Маск публично выступил против французских судей, которые расследуют X и Grok. На этот раз xAI пытается напрямую отменить закон.

Grok уже имеет несколько дел за собой

Миннесота не приходит на пустое место. В январе организация по наблюдению оценила, что Grok сгенерировал более 23 000 сексуализированных изображений детей всего за одиннадцать дней. Затем несколько стран открыли расследования. В марте трое несовершеннолетних из Калифорнии присоединились к делу против xAI. Они обвиняют Grok в том, что он использовался для преобразования их фотографий в контент, связанный с педокриминалом, сгенерированный ИИ.

xAI утверждает, что отреагировала. Компания заявляет, что приостановила более 50 000 аккаунтов в 2026 году и передала более 70 000 сообщений в Национальный центр пропавших и эксплуатируемых детей.

Grok уже накопил другие противоречия. В 2025 году xAI признала ошибку после распространения ненавистнического контента своим ИИ. Дело Миннесоты идет дальше. Оно требует не только от xAI исправить Grok после инцидента. Оно стремится установить ограничения непосредственно в законе. Теперь суд должен решить, регулирует ли Миннесота опасный инструмент или нарушает свободу слова, защищенную Конституцией. Grok остается доступным. Закон тоже.