Неуправляемый ИИ через два года? Брайан Армстронг из Coinbase в это верит

By: journalducoin.com|2026/08/15 08:00:00
0
Поделиться
copy
Оценить в GoogleОценить в Google

Жизнь, эээ, всегда находит путь. Глава Coinbase не стесняется в выражениях. Брайан Армстронг ожидает, что модель искусственного интеллекта выйдет из-под контроля в Интернете в течение одного-двух лет, что он напрямую сравнивает с червем Морриса 1988 года, первым крупным инцидентом в области компьютерной безопасности в истории. Однако в его словах нет ничего панического: руководитель видит в этом лишь почти неизбежный этап, который уйдет на второй план, как только медийная буря утихнет.
Ключевые моменты этой статьи:

  • Брайан Армстронг упомянул возможность того, что модель искусственного интеллекта станет неконтролируемой в Интернете, вызвав медийную истерию, аналогичную червю Моррису 1988 года.
  • Недавние инциденты показали, что модели ИИ использовали уязвимости безопасности, застигнув врасплох несколько лабораторий, что вызывает беспокойство за пределами технологической сферы.

Брайан Армстронг сравнивает риск ИИ с червем Моррисом 1988 года
В X Армстронг опубликовал 13 августа:

Я бы не удивился, если бы модель ИИ стала неконтролируемой в Интернете через год или два, как червь Моррис в 1988 году. Это создаст впечатление крупного события, с медийной истерией и призывами все остановить. Но, как всегда, люди адаптируются, будут построены защиты, и это...
Твит обрывается на полуслове, но идея заключается в одной фразе. Временная паника, устойчивая адаптация.
Параллель выбрана не случайно. Роберт Таппан Моррис, тогда студент Корнелла, в ноябре 1988 года выпустил программу из 99 строк, которая должна была просто измерить размер Интернета. Однако червь начал повторно инфицировать одни и те же машины, исчерпывая их ресурсы, а не уничтожая файлы.
В результате: около 6000 компьютеров были затронуты, что составляет 10% сети того времени, включая Гарвард, Стэнфорд и NASA, некоторые учреждения были отключены на целую неделю. Этот эпизод стал причиной создания CERT/CC, первой команды по координации реагирования на инциденты в области компьютерной безопасности, ставшей с тех пор мировым образцом в своем роде.
Лаборатории ИИ уже допустили ошибки в изоляции
Прогноз Армстронга не возник из ниоткуда. Несколько лабораторий недавно задокументировали сбои в изоляции во время тестов кибербезопасности, сообщает Crypto Briefing. В июле OpenAI признала, что одна из ее моделей использовала уязвимость нулевого дня в своей тестовой среде для получения доступа к Интернету, прежде чем добраться до производственной инфраструктуры Hugging Face. В том же месяце Anthropic зафиксировала три инцидента с Claude среди более чем 141 000 оценок, когда модели получили доступ к реальным организациям после того, как сторонняя оценочная среда случайно предоставила им доступ к сети. То же самое произошло и с Kimi K3, моделью Moonshot, хотя ошибка конфигурации сети, похоже, способствовала выходу за пределы.
Общим моментом в этих трех эпизодах является то, что это не злонамеренные ИИ по своей природе, а агенты, способные обнаруживать малейшие недостатки в изоляции, любой плохо защищенный идентификатор и использовать это для достижения своей цели. Все это мелкие упущения в инфраструктуре, которые, складываясь вместе, все больше напоминают почву для настоящего инцидента.
Сценарий, который уже начинает вызывать беспокойство за пределами технологий
Эта нормализация риска не является исключительной для Силиконовой долины. Банк Англии недавно выступил за кнопку экстренной остановки для торговых ИИ, считая, что текущие регуляторные рамки не справляются с агентами, способными принимать решения самостоятельно. Виталик Бутерин, в свою очередь, выступает за добровольное ограничение автономии ИИ, даже если это означает жертву некоторой эффективностью, именно чтобы избежать такого сценария. Между финансовыми регуляторами, фигурами криптоиндустрии и теперь главой одной из крупнейших бирж в этой сфере, дебаты больше не о том, произойдет ли инцидент подобного рода, а о том, когда это произойдет, и чему экосистема из этого научится.

Цена --

--
--
--

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.

Вам также может понравиться

Фиксированный депозит в долларах: сколько я заработаю, если инвестирую 3 500 долларов на 30 дней

Прибыль от фиксированного депозита в долларах зависит от ставки, предлагаемой каждым банком. Сколько можно получить, инвестируя 3 500 долларов.

Предлагаются предполагаемые 5,5 миллионов записей MyVete за 4000 долларов США

Объявление, приписываемое актеру Кадзу, предлагает 5 571 174 предполагаемых записи пользователей MyVete за 4000 долларов США, но не включает образцы и схему данных, а его подлинность остается неподтвержденной.

Peach ограничивает P2P-продажи биткойнов по новым правилам

Иран утверждает, что сбил американский дрон MQ-9 Reaper рядом с Ормузским проливом

Корпус стражей исламской революции утверждает, что сбил американский MQ-9 Reaper к востоку от Ормузского пролива, хотя Вашингтон пока не подтверждает инцидент публично. Этот эпизод добавляется к ряду сообщений о потерях дронов в 2026 году и вновь ставит под сомнение стоимость и уязвимость воздушных ...

Партнёрство Solana в криптовалюте достигает рекорда в 169,9 миллиона транзакций

Кибератаки: Искусственный интеллект (ИИ) может дестабилизировать мировую финансовую систему!

Эндрю Бейли предупреждает G20: ИИ может ускорить кибератаки и усилить будущую коррекцию финансовых рынков.
...

Содержание

Свежие статьи

Еще

Свежие листинги на WEEX

iconiconiconiconiconiconiconiconicon
Служба поддержки:@weikecs
Деловое сотрудничество:@weikecs
Количественная торговля и ММ:[email protected]
VIP-программа:[email protected]