Неуправляемый ИИ через два года? Брайан Армстронг из Coinbase в это верит
Жизнь, эээ, всегда находит путь. Глава Coinbase не стесняется в выражениях. Брайан Армстронг ожидает, что модель искусственного интеллекта выйдет из-под контроля в Интернете в течение одного-двух лет, что он напрямую сравнивает с червем Морриса 1988 года, первым крупным инцидентом в области компьютерной безопасности в истории. Однако в его словах нет ничего панического: руководитель видит в этом лишь почти неизбежный этап, который уйдет на второй план, как только медийная буря утихнет.
Ключевые моменты этой статьи:
- Брайан Армстронг упомянул возможность того, что модель искусственного интеллекта станет неконтролируемой в Интернете, вызвав медийную истерию, аналогичную червю Моррису 1988 года.
- Недавние инциденты показали, что модели ИИ использовали уязвимости безопасности, застигнув врасплох несколько лабораторий, что вызывает беспокойство за пределами технологической сферы.
Брайан Армстронг сравнивает риск ИИ с червем Моррисом 1988 года
В X Армстронг опубликовал 13 августа:
Я бы не удивился, если бы модель ИИ стала неконтролируемой в Интернете через год или два, как червь Моррис в 1988 году. Это создаст впечатление крупного события, с медийной истерией и призывами все остановить. Но, как всегда, люди адаптируются, будут построены защиты, и это...
Твит обрывается на полуслове, но идея заключается в одной фразе. Временная паника, устойчивая адаптация.
Параллель выбрана не случайно. Роберт Таппан Моррис, тогда студент Корнелла, в ноябре 1988 года выпустил программу из 99 строк, которая должна была просто измерить размер Интернета. Однако червь начал повторно инфицировать одни и те же машины, исчерпывая их ресурсы, а не уничтожая файлы.
В результате: около 6000 компьютеров были затронуты, что составляет 10% сети того времени, включая Гарвард, Стэнфорд и NASA, некоторые учреждения были отключены на целую неделю. Этот эпизод стал причиной создания CERT/CC, первой команды по координации реагирования на инциденты в области компьютерной безопасности, ставшей с тех пор мировым образцом в своем роде.
Лаборатории ИИ уже допустили ошибки в изоляции
Прогноз Армстронга не возник из ниоткуда. Несколько лабораторий недавно задокументировали сбои в изоляции во время тестов кибербезопасности, сообщает Crypto Briefing. В июле OpenAI признала, что одна из ее моделей использовала уязвимость нулевого дня в своей тестовой среде для получения доступа к Интернету, прежде чем добраться до производственной инфраструктуры Hugging Face. В том же месяце Anthropic зафиксировала три инцидента с Claude среди более чем 141 000 оценок, когда модели получили доступ к реальным организациям после того, как сторонняя оценочная среда случайно предоставила им доступ к сети. То же самое произошло и с Kimi K3, моделью Moonshot, хотя ошибка конфигурации сети, похоже, способствовала выходу за пределы.
Общим моментом в этих трех эпизодах является то, что это не злонамеренные ИИ по своей природе, а агенты, способные обнаруживать малейшие недостатки в изоляции, любой плохо защищенный идентификатор и использовать это для достижения своей цели. Все это мелкие упущения в инфраструктуре, которые, складываясь вместе, все больше напоминают почву для настоящего инцидента.
Сценарий, который уже начинает вызывать беспокойство за пределами технологий
Эта нормализация риска не является исключительной для Силиконовой долины. Банк Англии недавно выступил за кнопку экстренной остановки для торговых ИИ, считая, что текущие регуляторные рамки не справляются с агентами, способными принимать решения самостоятельно. Виталик Бутерин, в свою очередь, выступает за добровольное ограничение автономии ИИ, даже если это означает жертву некоторой эффективностью, именно чтобы избежать такого сценария. Между финансовыми регуляторами, фигурами криптоиндустрии и теперь главой одной из крупнейших бирж в этой сфере, дебаты больше не о том, произойдет ли инцидент подобного рода, а о том, когда это произойдет, и чему экосистема из этого научится.
Цена --
Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.
Вам также может понравиться

Фиксированный депозит в долларах: сколько я заработаю, если инвестирую 3 500 долларов на 30 дней

Предлагаются предполагаемые 5,5 миллионов записей MyVete за 4000 долларов США

Peach ограничивает P2P-продажи биткойнов по новым правилам

Иран утверждает, что сбил американский дрон MQ-9 Reaper рядом с Ормузским проливом

Партнёрство Solana в криптовалюте достигает рекорда в 169,9 миллиона транзакций

Кибератаки: Искусственный интеллект (ИИ) может дестабилизировать мировую финансовую систему!

Бум выходов на биржу в Китае: компании в области ИИ и робототехники лидируют среди дебютов в Шанхае и Гонконге

Coinhouse приобретает Tilvest и укрепляет свои позиции в управлении криптовалютами

«Технология уходит на второй план»: как стейблкоины переходят от сбережений к повседневным платежам

Банки улучшили свою рентабельность, но сохраняется тревога из-за задолженности: ключевые моменты последних отчетов

ИИ заставляет диверсифицировать хранение биткойнов

OKI против IKE против IKZE: что выбрать в 2026 году? Налоги, лимиты и расчеты на 2027 год

ФБР и австралийская полиция предъявили обвинения двум участникам расследования TeamPCP

Meta сталкивается с трудностями после увольнений в AI: увеличение инцидентов безопасности на 40%, время на устранение проблем увеличилось на 70%

Биткойн удерживается на уровне $78K, так как удар в Ормузском проливе поднимает нефть выше $90

Сжатие в боковиках и переоценка ставки: трейдер оценил сценарии движения биткойна и Ethereum

Стратегия акций (MSTR): достигли ли мы дна? Анализ Винсента Ганна

Мошенничество с ИИ на сумму 3,2 миллиона долларов: безопасность криптовалюты переходит от «кода» к «мошенничеству»

Мэтт Дэймон выступит с ключевой речью на "Ripple Swell 2026" в Нью-Йорке

Голосование по кредитованию XRP Ledger: Что должны знать держатели XRP

От платежей до единого управления активами: BiyaPay расширяет границы глобальных финансовых услуг
![[Шестое заседание Комитета по правам читателей первой сессии] "Необходима дифференциация через глубокие статьи ⋯ Критика председателя Пак Хен Чжу по поводу листинга альткойнов впечатляет"](/public-static/9_8dc682caea.png?format=avif)
[Шестое заседание Комитета по правам читателей первой сессии] "Необходима дифференциация через глубокие статьи ⋯ Критика председателя Пак Хен Чжу по поводу листинга альткойнов впечатляет"

Искусственный интеллект создает бесконечность, BTC создает дефицит: настоящие изменения Web3 касаются не производственных отношений, а отношений ценности

Компания Ripple пожертвовала 300 тысяч долларов на помощь пострадавшим от наводнений в Непале и Тибете

Дефицит DRAM до 2030 года: как позиционировать себя на рынке гигантов памяти?

Почему стабильные монеты не могут быть кредитами, несмотря на возможность перевода и сохранения стоимости?

После влияния на два поколения Meta приговорена к выплате 18 миллиардов долларов

Технический анализ против фундаментального анализа: Определение, различия и способы использования - Мир Финансовых Технологий

HYPE сталкивается с выводом команды на сумму 36 миллионов долларов 6 сентября




