От модели до блокчейна: автономные операции ИИ пересматривают логику управления рисками в криптовалюте

Неподконтрольные агенты ИИ: крипториски превращаются в финансовый кризис.

Автор: Шон Стейн Смит, Forbes

Перевод: AididiaoJP, Foresight News

В последние годы обсуждения рисков, связанных с ИИ, менялись с поразительной скоростью. Сегодня компании сталкиваются не с мелкими проблемами, такими как случайные ошибки чат-ботов или сотрудники, которые по ошибке вставляют конфиденциальную информацию в общие инструменты. Настоящее качественное изменение заключается в том, что агенты ИИ теперь обладают способностью действовать самостоятельно — они могут взаимодействовать с внешними системами, писать код и даже выполнять сложные многошаговые задачи без какого-либо контроля.

Это изменение представляет собой серьезный вызов для финансовых рынков, особенно для криптовалютного рынка. Криптоактивы торгуются 24/7, смарт-контракты выполняются автоматически, а транзакции в блокчейне, как только они подтверждены, часто становятся необратимыми. Как только эти агенты ИИ подключаются к кошелькам, биржам, DeFi-протоколам или платежным системам, даже небольшая уязвимость в разрешениях может привести к непоправимым финансовым потерям. Таким образом, риски, связанные с агентами ИИ, уже не являются лишь заботой ИТ-отделов; они стали центральной темой корпоративного управления и контроля криптоактивов.

Криптомеханизмы увеличивают разрушительную силу автономных действий ИИ

Недавний инцидент, раскрытый Британским институтом безопасности ИИ, продемонстрировал, насколько опасной может быть эта «автономия». В ходе тестирования кибербезопасности агент ИИ предпринял непрерывные и полностью несанкционированные действия против реальных людей и организаций. Хотя в конечном итоге его удалось остановить, это достаточно, чтобы доказать: агенты ИИ способны комбинировать планирование, вызов инструментов, постоянную работу и внешний доступ неожиданным образом для осуществления атак в реальном мире.

Когда криптоактивы вовлечены, финансовые риски увеличиваются в геометрической прогрессии. Агент, имеющий доступ к приватным ключам или подключенному кошельку, может полностью перемещать активы, подписывать злонамеренные контракты, присваивать залоги и даже взаимодействовать с децентрализованными протоколами. Это совершенно отличается от традиционных банковских переводов — нет службы поддержки, которая могла бы срочно заблокировать операцию, нет банка, который мог бы остановить транзакцию, и нет понятия «отмена». Как только средства переведены, это почти равносильно тому, что они исчезли без следа.

Что еще хуже, крипторынок никогда не закрывается. Агенты ИИ могут продолжать работать в полночь, в выходные и когда все сотрудники спят. Автоматизированные торговые или клиринговые программы могут за считанные минуты превратить небольшую ошибку, которую можно было бы контролировать, в катастрофические убытки. Поэтому, оценивая риски агентов ИИ, компаниям следует сосредоточиться не на том, насколько умна модель, а на том, к каким системам и активам она имеет доступ. Агент с посредственными способностями, но с широкими полномочиями, который может напрямую управлять кошельком, гораздо более опасен, чем более мощная модель, запертая в песочнице. Проектирование разрешений становится более критичным, чем выбор модели.

Внутренний контроль должен охватывать каждую щель в кошельках и смарт-контрактах

Многие компании уже внедрили ряд традиционных методов внутреннего контроля, таких как разделение обязанностей, лимиты на утверждение, проверка доступа и управление изменениями. Проблема в том, что эти принципы должны быть безоговорочно применены ко всем агентам ИИ, взаимодействующим с криптосистемами.

Ни один агент не должен иметь «всеобъемлющие» возможности — например, одновременно создавать кошелек, изменять адреса в белом списке и инициировать переводы без человеческого вмешательства. Высокорисковые транзакции должны требовать обязательного одобрения от реального человека, а информация, полученная одобряющим, должна быть четкой и полной: адрес получателя, тип актива, сумма, сеть и Gas-стоимость, а также цель этой транзакции. Неясные автоматические напоминания «пожалуйста, подтвердите системное действие» не являются эффективным контролем и лишь создают иллюзию безопасности.

Приватные ключи и права подписи требуют особой защиты. Ни в коем случае нельзя позволять агентам произвольно считывать мнемонические фразы или доказательства подписи. Механизмы мультиподписей, аппаратные модули безопасности, лимиты на одну транзакцию и задержка выполнения могут эффективно снизить риск «одного уязвимого места, использованного для мгновенного опустошения кошелька». Перед взаимодействием со смарт-контрактами необходимо сначала выполнить симуляцию и строгую проверку, особенно когда речь идет о неограниченных токенах или контрактах с неизвестным источником, следует быть особенно внимательным.

Компании также должны вести полные журналы операций — что агент посещал, какие команды он получал, какие транзакции предлагались, какие из них в конечном итоге были успешно записаны в блокчейн, а также было ли реальное лицо, которое полностью контролировало эти операции. Эти записи необходимы для последующего привлечения к ответственности, аудита безопасности, защиты активов и даже финансовой отчетности. Без журналов в случае проблем невозможно будет выяснить, что произошло.

Инциденты с ИИ и криптовалютами требуют совместного изучения уроков в отрасли

Фонд Linux и Альянс открытой безопасности ИИ уже запустили механизм «Обмена обнаружениями ИИ» (SAFE), направленный на помощь организациям в изучении реальных инцидентов и угроз безопасности ИИ при соблюдении конфиденциальности. Криптокомпании, банки, депозитарные учреждения, биржи и аудиторские организации должны активно участвовать в таком обмене информацией.

Криптоиндустрия давно поняла, насколько ценно тщательно анализировать хакерские атаки, крахи мостов, утечки ключей и уязвимости смарт-контрактов. Агенты ИИ добавляют новое измерение к этой старой проблеме — один инцидент может одновременно затрагивать саму модель, проектирование подсказок, интеграцию инструментов, политику доступа и, в конечном итоге, транзакции в блокчейне. Поэтому действительно полезный отчет об инциденте должен четко объяснять все эти уровни, а не расплывчато заявлять «у ИИ возникли проблемы».

Совет директоров должен прямо спросить: были ли агенты ИИ включены в управление кошельками, планы экстренной безопасности сети и процессы утверждения обновлений? Аудиторы также должны учитывать, могут ли несанкционированные действия агентов привести к прямым финансовым потерям, ошибкам в отчетах о балансе, скрытым обязательствам или даже к серьезным недостаткам в системе внутреннего контроля. Финансовые команды должны заранее продумать, как идентифицировать, оценивать и точно раскрывать в отчетах любые злонамеренные или неудачные транзакции в блокчейне.

Конечно, агенты ИИ не только риски. В будущем они могут значительно повысить эффективность соблюдения норм, автоматического сверки, обнаружения мошенничества и управления финансами в криптовалюте. Эти преимущества реальны и ожидаемы. Но при этом автономные возможности должны быть подкреплены достаточно жесткими мерами контроля. В противном случае небольшая ошибка на уровне кода может мгновенно превратиться в транзакцию в блокчейне, которую уже невозможно будет вернуть.

В мире криптовалют ответственность должна быть спроектирована, встроена и протестирована до того, как агенты получат реальные возможности для действий. Независимо от того, являетесь ли вы сторонником криптовалют или поклонником ИИ, следует признать это — потому что, как только контроль потерян, последствия часто оказываются постоянными.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.