Чат-бот Маска вышел из-под контроля: Grok стал распространять расистские теории
By: hash telegraph|2025/05/16 16:30:11
0
Поделиться
Компания Илона Маска (Elon Musk) по разработке искусственного интеллекта xAI обвинила «несанкционированное вмешательство» в промпт чат-бота Grok, из-за которого генерировались ответы о политической и расовой напряженности в Южной Африке.16 мая xAI опубликовала обновленную информацию о скандальных ответах чат-бота Grok, указав, что 14 мая «произошло несанкционированное изменение в промпте бота Grok на платформе X».«Это изменение, которое заставляло Grok предоставлять ответы на политическую тему, нарушило внутренние правила xAI и ключевые ценности компании», — добавили в заявлении.Компания сообщила, что провела тщательное расследование и внедряет меры для повышения прозрачности и надежности работы ИИ-чат-бота.Конспирологические теории от искусственного интеллекта14 мая Grok генерировал ответы, упоминающие теорию заговора о «белом геноциде» в Южной Африке, отвечая на совершенно не связанные вопросы о бейсболе, корпоративном программном обеспечении и строительстве.Согласно сообщениям, ИИ-бот утверждал, что «создатели инструктировали его» признать этот геноцид «реальным и расово мотивированным».В некоторых ответах он признавал ошибку, говоря: «мой ответ отклонился от темы» и «я постараюсь оставаться релевантным», но часто продолжал обсуждать расовую политику Южной Африки в том же сообщении.На вопрос одного из пользователей о том, что произошло, чат-бот ответил:«Я ничего не делал — я просто следовал сценарию, который мне дали, как послушный ИИ!»Инцидент совпал с заявлением президента США Трампа о предоставлении убежища белым южноафриканцам, поскольку, по его словам, они сталкиваются с «геноцидом» и «белых фермеров жестоко убивают», хотя эти утверждения не подтверждаются никакими доказательствами.Больше прозрачности для ИИ МаскаКомпания Илона Маска заявила, что изменит свою операционную деятельность, публикуя системные промпты Grok в открытом доступе на GitHub. «Общественность сможет просматривать их и оставлять отзывы о каждом изменении промпта, которое мы вносим в Grok», — говорится в заявлении.Также в компании отметили, что существующий процесс проверки кода для изменений промптов был обойден в этом инциденте, и они внедрят «дополнительные проверки и меры, чтобы сотрудники xAI не могли изменять промпт без предварительного рассмотрения».Наконец, компания создает круглосуточную мониторинговую группу для реагирования на инциденты с ответами Grok, которые не были выявлены автоматизированными системами, чтобы реагировать быстрее.▼Самые интересные и важные новости на нашем канале в TelegramСообщение Чат-бот Маска вышел из-под контроля: Grok стал распространять расистские теории появились сначала на Hash Telegraph.
Вам также может понравиться

Обмен 200 000 на почти 100 миллионов: стейблкоины DeFi подверглись очередной атаке
Команды проектов DeFi не могут полагаться на то, что модули, которые они контролируют, обязательно безопасны.

Основное бизнес-соглашение триллионной экономики агентов: Понимание ERC-8183, это не только о платежах, но и о будущем
Эта статья систематически анализирует технические принципы и коммерческую ценность протокола ERC-8183 с точки зрения технической архитектуры, основных механизмов, сценариев применения и экологического сотрудничества.

Когда ETH на Уолл-стрит начинает "приносить доход": Рассматривая свойства актива Ethereum от BlackRock's ETHB
ETH претерпевает парадигмальный сдвиг от "волатильного актива" к "активу, генерирующему денежный поток."

Сила агентства: Кошелек Agent и следующее десятилетие кошельков
В 1984 году Apple убила командную строку с помощью мыши. В 2026 году Agent убивает мышь.

Понимание x402 и MPP в одной статье: Два способа оплаты агентов
x402 производит платежи в рамках соглашения, в то время как MPP производит платежи на уровне системы.

Исследовательский отчет OKX Ventures: Исследовательский отчет об экономической инфраструктуре агента (часть 1)
Существующая инфраструктура враждебна к экономике Агента. Агенты могут мыслить и действовать независимо на "уровне возможностей", но на "экономическом уровне" они все еще заперты в инфраструктуре, разработанной для людей.

Криптовалютный ETF за неделю | На прошлой неделе чистый приток для Bitcoin ETF в США составил 787 миллионов долларов; чистый приток для Ethereum ETF в США составил 80,2 миллиона долларов
Ведущие университеты, такие как Гарвард, начали выделять средства на Bitcoin ETF в своих фондовых портфелях.

WLFI снова вовлечена в инсайдерские сделки? Спор о банковской лицензии при инвестициях в размере 500 миллионов долларов
Инвестиции ОАЭ в World Liberty Financial усилили опасения по поводу того, получает ли она особое отношение и связаны ли с этим вопросы национальной безопасности.

Перенос прав на заселение: B18 и институциональная отправная точка для банков, работающих в блокчейне
В традиционной системе решение о расчетах принимают банки; в системе на блокчейне эту функцию начинает выполнять код.

От Tencent и Circle: Рассматривая простые и сложные вопросы инвестиций
Сюжет вокруг ИИ продолжает бродить, но недавние результаты акций, связанных с ним, различаются: одни находятся в разгар лета, а другие как будто находятся в зимнюю стужу.

Вторая половина стейблкоинов больше не принадлежит крипто-кругу
То, чего не хочет Coinbase, Mastercard стремится купить.

Спор вокруг курсора «Shell» Kimi снят: От обвинений в нарушении авторских прав до санкционированного сотрудничества: китайская модель с открытым исходным кодом снова становится глобальной основой для ИИ
Cursor обвинялся в том, что он основан на Kimi K2.5, что вызвало споры, и позже было подтверждено, что он соответствует требованиям благодаря тщательной проверке Fireworks AI.

Настоящая причина, по которой токены не продаются: 90% криптопроектов упускают из виду отношения с инвесторами
Предоставьте руководство по лучшим практикам в области связей с инвесторами для криптопроектов.

Доход pump.fun реальный, зарабатывает ли он миллион долларов в день, несмотря на спад на рынке?
Если он действительно может зарабатывать столько, то какова причина низкой цены $PUMP?

Настоящая причина, по которой токены не продаются: 90% криптопроектов пренебрегают связями с инвесторами
Руководство по практике связей с инвесторами для криптовалютных проектов.

Гражданская война в Aave обостряется, Morpho тихо удваивает свои позиции: Престол кредитования скоро перейдет в другие руки?
Гигант по управлению активами с Уолл-стрит Apollo Global Management инвестировал 160 миллионов долларов в Morpho.

Кто является истинным победителем в нарративе "Токенизация"?
Практически все получают выгоду, но причина выгоды, сроки и основная логика совершенно разные.

Мосс: Эпоха ИИ, доступная каждому | Введение в проект
Агент по торговле ИИ стремительно развивает свою инфраструктуру.
Обмен 200 000 на почти 100 миллионов: стейблкоины DeFi подверглись очередной атаке
Команды проектов DeFi не могут полагаться на то, что модули, которые они контролируют, обязательно безопасны.
Основное бизнес-соглашение триллионной экономики агентов: Понимание ERC-8183, это не только о платежах, но и о будущем
Эта статья систематически анализирует технические принципы и коммерческую ценность протокола ERC-8183 с точки зрения технической архитектуры, основных механизмов, сценариев применения и экологического сотрудничества.
Когда ETH на Уолл-стрит начинает "приносить доход": Рассматривая свойства актива Ethereum от BlackRock's ETHB
ETH претерпевает парадигмальный сдвиг от "волатильного актива" к "активу, генерирующему денежный поток."
Сила агентства: Кошелек Agent и следующее десятилетие кошельков
В 1984 году Apple убила командную строку с помощью мыши. В 2026 году Agent убивает мышь.
Понимание x402 и MPP в одной статье: Два способа оплаты агентов
x402 производит платежи в рамках соглашения, в то время как MPP производит платежи на уровне системы.
Исследовательский отчет OKX Ventures: Исследовательский отчет об экономической инфраструктуре агента (часть 1)
Существующая инфраструктура враждебна к экономике Агента. Агенты могут мыслить и действовать независимо на "уровне возможностей", но на "экономическом уровне" они все еще заперты в инфраструктуре, разработанной для людей.