logo

Чат-бот Маска вышел из-под контроля: Grok стал распространять расистские теории

By: hash telegraph|2025/05/16 16:30:11
0
Поделиться
copy
Компания Илона Маска (Elon Musk) по разработке искусственного интеллекта xAI обвинила «несанкционированное вмешательство» в промпт чат-бота Grok, из-за которого генерировались ответы о политической и расовой напряженности в Южной Африке.16 мая xAI опубликовала обновленную информацию о скандальных ответах чат-бота Grok, указав, что 14 мая «произошло несанкционированное изменение в промпте бота Grok на платформе X».«Это изменение, которое заставляло Grok предоставлять ответы на политическую тему, нарушило внутренние правила xAI и ключевые ценности компании», — добавили в заявлении.Компания сообщила, что провела тщательное расследование и внедряет меры для повышения прозрачности и надежности работы ИИ-чат-бота.Конспирологические теории от искусственного интеллекта14 мая Grok генерировал ответы, упоминающие теорию заговора о «белом геноциде» в Южной Африке, отвечая на совершенно не связанные вопросы о бейсболе, корпоративном программном обеспечении и строительстве.Согласно сообщениям, ИИ-бот утверждал, что «создатели инструктировали его» признать этот геноцид «реальным и расово мотивированным».В некоторых ответах он признавал ошибку, говоря: «мой ответ отклонился от темы» и «я постараюсь оставаться релевантным», но часто продолжал обсуждать расовую политику Южной Африки в том же сообщении.На вопрос одного из пользователей о том, что произошло, чат-бот ответил:«Я ничего не делал — я просто следовал сценарию, который мне дали, как послушный ИИ!»Инцидент совпал с заявлением президента США Трампа о предоставлении убежища белым южноафриканцам, поскольку, по его словам, они сталкиваются с «геноцидом» и «белых фермеров жестоко убивают», хотя эти утверждения не подтверждаются никакими доказательствами.Больше прозрачности для ИИ МаскаКомпания Илона Маска заявила, что изменит свою операционную деятельность, публикуя системные промпты Grok в открытом доступе на GitHub. «Общественность сможет просматривать их и оставлять отзывы о каждом изменении промпта, которое мы вносим в Grok», — говорится в заявлении.Также в компании отметили, что существующий процесс проверки кода для изменений промптов был обойден в этом инциденте, и они внедрят «дополнительные проверки и меры, чтобы сотрудники xAI не могли изменять промпт без предварительного рассмотрения».Наконец, компания создает круглосуточную мониторинговую группу для реагирования на инциденты с ответами Grok, которые не были выявлены автоматизированными системами, чтобы реагировать быстрее.▼Самые интересные и важные новости на нашем канале в TelegramСообщение Чат-бот Маска вышел из-под контроля: Grok стал распространять расистские теории появились сначала на Hash Telegraph.

Вам также может понравиться

Обмен 200 000 на почти 100 миллионов: стейблкоины DeFi подверглись очередной атаке

Команды проектов DeFi не могут полагаться на то, что модули, которые они контролируют, обязательно безопасны.

Основное бизнес-соглашение триллионной экономики агентов: Понимание ERC-8183, это не только о платежах, но и о будущем

Эта статья систематически анализирует технические принципы и коммерческую ценность протокола ERC-8183 с точки зрения технической архитектуры, основных механизмов, сценариев применения и экологического сотрудничества.

Когда ETH на Уолл-стрит начинает "приносить доход": Рассматривая свойства актива Ethereum от BlackRock's ETHB

ETH претерпевает парадигмальный сдвиг от "волатильного актива" к "активу, генерирующему денежный поток."

Сила агентства: Кошелек Agent и следующее десятилетие кошельков

В 1984 году Apple убила командную строку с помощью мыши. В 2026 году Agent убивает мышь.

Понимание x402 и MPP в одной статье: Два способа оплаты агентов

x402 производит платежи в рамках соглашения, в то время как MPP производит платежи на уровне системы.

Исследовательский отчет OKX Ventures: Исследовательский отчет об экономической инфраструктуре агента (часть 1)

Существующая инфраструктура враждебна к экономике Агента. Агенты могут мыслить и действовать независимо на "уровне возможностей", но на "экономическом уровне" они все еще заперты в инфраструктуре, разработанной для людей.

Популярные монеты

Последние новости криптовалют

Еще