Искусственный интеллект не может нести ответственность за убыточные сделки, ответственность следует за делегированием: генеральный директор Brickken

Агенты ИИ начали выполнять сделки и перемещать средства без постоянного человеческого одобрения, что побудило генерального директора Brickken Эдвина Мату утверждать, что ответственность должна следовать за полномочиями, предоставленными программному обеспечению, а не прикрепляться к самому ИИ.

Резюме

• Агенты ИИ не могут принимать на себя юридические обязанности, поскольку действующее законодательство не признает их юридическими лицами.
• Мата заявил, что принципалы обычно несут последствия, когда агенты действуют в рамках уполномоченного мандата.
• ERC-8226 предлагает временные ограничения, финансовые лимиты, контроль за отзывом и проверяемые записи для агентов ИИ.
• Правила ценных бумаг США уже требуют от брокеров контроля за автоматизированными системами, которые получают доступ к регулируемым рынкам.

Sandmark сообщила 6 августа, что существующие законы не предоставляют единого ответа на вопрос о потерях, вызванных автономными финансовыми агентами, оставляя судам возможность исследовать пользователя, разработчика, платформу и учреждение, участвующее в каждой сделке.

В отчете говорится, что к контрактному праву, правилам небрежности, ответственности за продукцию и фидуциарным обязанностям могут применяться все эти аспекты, в зависимости от того, кто контролировал агента и что вызвало убыток. Пользователь может нести последствия за уполномоченную сделку, в то время как разработчик или платформа могут столкнуться с претензиями, если ненадежный дизайн, слабые меры безопасности или искаженная информация вывели агента за пределы его предназначенной роли.

Комментируя эту проблему, Эдвин Мата, юрист и генеральный директор и соучредитель платформы токенизации Brickken, сказал crypto.news, что ответственность никогда не должна быть напрямую возложена на программное обеспечение.

"Согласно действующему законодательству, ИИ не является юридическим лицом, способным принимать на себя обязанности или нести ответственность. Это техническая система, действующая от имени физического или юридического лица."

По словам Маты, вместо этого расследование должно установить, кто уполномочил агента, чьи интересы он представлял и какие полномочия он получил. Такое расследование поможет отличить убыточное решение, принятое в рамках утвержденной стратегии, от сделки, которая нарушила пределы агента.
Вам также может быть интересно: Исследования криптовалют сталкиваются с проблемой присоединения, и агенты ИИ начинают ее решать

Ответственность агентов ИИ следует за предоставленными полномочиями

Мата сравнил юридические отношения с доверенностью, в рамках которой одна сторона получает разрешение действовать от имени другой в определенных рамках. Когда эмитент, банк или инвестор уполномочивает агента на проведение сделок, он сказал, что принципал обычно несет последствия действий, которые остаются в рамках этих полномочий.

По той же логике, инвестор не может отклонить сделку только потому, что программное обеспечение дало неблагоприятный результат. Убыток в цене сам по себе не показывает, что агент действовал без разрешения или что другая сторона не выполнила свои обязанности.

"Эмитент не может отказаться от неблагоприятной, но уполномоченной сделки только потому, что решение было сгенерировано программным обеспечением," - сказал Мата.

Ответственность может измениться, когда агент превышает свои полномочия. Мата сказал, что разработчик, платформа или финансовое учреждение могут столкнуться с риском, если их дизайн или контроль вызвали или позволили сбой, хотя окончательная оценка будет зависеть от фактов и применимого законодательства.

Sandmark привела аналогичные юридические различия в своем отчете. Шантэ Элиязаде, основатель Astraea Counsel, сказала изданию, что ответственность обычно следует за контролем. Она отметила, что пользователи обычно являются отправной точкой, когда агенты действуют от их имени, но разработчики могут столкнуться с риском, если система, предназначенная для автономной торговли, потерпела сбой предсказуемым образом.

Этот вопрос стал более актуальным, поскольку агенты получают прямой доступ к кошелькам и платежным системам. В мае отчет Keyrock показал, что агенты ИИ провели 73 миллиона долларов через 176 миллионов транзакций за предыдущие 12 месяцев, при этом USDC составил 98,6% исследованных платежей.

Coinbase также подключила агентов к торговле, управлению портфелем и платежам в рамках установленных пользователем лимитов. К июлю Chainalysis насчитала более 100 миллионов платежей, связанных с x402, на платформе Base, хотя аналитическая компания отметила, что фермерство мем-коинов и автоматизированная активность способствовали ранним итогам транзакций. Таким образом, эти цифры не представляли собой только независимых агентов, покупающих товары или услуги.

Человеческое одобрение требует четких и исполнимых ограничений

Хотя человек может формально одобрить действия агента, Мата сказал, что согласие само по себе не обеспечивает значительного контроля, если человек не может понять предоставляемую власть.

Эффективная делегация, по его мнению, требует списка разрешенных действий и допустимых активов, а также лимитов для отдельных транзакций и общего расходования. Мандат также должен уточнять его срок действия, условия, требующие человеческого пересмотра, право принципала отозвать доступ и запись каждого предпринятого действия.

Такие ограничения уже появляются в коммерческих продуктах. Anchorage Digital представила агентское банковское дело в мае с проверенными идентичностями, лимитами на расходы и контрольными функциями для автономных систем, получающих доступ к криптовалютным и традиционным платежным системам.

Visa и Wirex отдельно протестировали платежи с использованием стейблкоинов, инициируемые агентами, для подписок на программное обеспечение, маркетинговых бюджетов и закупок. По данным Wirex, испытания были направлены на изучение безопасности, надежности, прозрачности и контроля со стороны потребителей, когда программное обеспечение инициирует платежи для пользователя или бизнеса.

В июньском руководстве по агентским платежам объяснялось, как x402 позволяет автономному программному обеспечению оплачивать данные, вычислительные услуги и онлайн-ресурсы с использованием стейблкоинов. Поскольку эти платежи могут происходить без одобрения каждой транзакции человеком, системы авторизации должны установить, что агент может купить, сколько он может потратить и когда его доступ заканчивается.

ERC-8226 будет записывать мандаты AI-агентов в блокчейне

Мата указал на ERC-8226, предложенный стандарт мандата регулируемого агента, как одну из моделей для проверки делегированной власти.

Поданный в качестве проекта стандарта Ethereum 12 апреля, ERC-8226 предназначен для AI-агентов, работающих с токенизированными регулируемыми активами. Предложение было написано участниками Brickken Людовико Россией, Дарио Ло Буглио, Тхамером Дриди и Набилем Эль Алами Халифи.

Известный как RAMS, стандарт позволит проверенному принципалу предоставить агенту разрешение, ограниченное активом, действием, сроком и денежной стоимостью. Контракт на регулируемый токен сможет проверить мандат, когда агент попытается выполнить транзакцию.

Предложение разделяет три вопроса, которые могут возникнуть во время торговли, инициируемой агентом. Реестр идентичностей подтвердит, что агент существует, поставщик соблюдения определит, имеет ли принципал право совершать сделки с активом, а реестр RAMS проверит, попадает ли запланированное действие в делегированный мандат.

Согласно проектной спецификации, мандат может установить максимальную сумму для одной транзакции и совокупную сумму по нескольким транзакциям. Он также может включать время активации и истечения, разрешенные активы, одобренные действия, функции отзыва и записи, показывающие, сколько власти агент уже использовал.

Мата сказал, что RAMS не будет передавать ответственность агенту или возмещать принципалу за авторизованную потерю. Вместо этого предлагаемый стандарт предоставит доказательства, показывающие, кто предоставил власть, что агент мог делать и оставалась ли транзакция в рамках этих ограничений.

"Его цель - сделать атрибуцию проверяемой: кто предоставил власть, что агенту было разрешено делать, оставалось ли это в рамках этих ограничений и какой человек или контроль не сработал, когда это не так."

ERC-8226 остается проектом, а не принятой стандартом Ethereum или юридическим требованием. На странице обсуждения также перечислены неразрешенные вопросы, включая то, должны ли токены, приобретенные агентом, оставаться в кошельке агента или поступать непосредственно в кошелек принципала.

Правила США возлагают ответственность на регулируемые компании

Для рынков США существующие правила ценных бумаг уже возлагают обязанности на компании, предоставляющие доступ к биржам и альтернативным торговым системам.

Согласно правилу SEC 15c3-5, брокер-дилер, предоставляющий доступ к рынку, должен поддерживать финансовые и регуляторные риски под своим прямым и исключительным контролем, за исключением ограниченных случаев. Руководство SEC гласит, что брокер-дилер остается ответственным за эффективность этих контролей, даже когда он использует технологии, предоставленные независимой третьей стороной.

Правило требует автоматизированных предварительных проверок перед сделкой, предназначенных для остановки заказов, превышающих заранее установленные кредитные или капитальные пороги. Оно также требует контроля, который ограничивает торговые системы авторизованным лицам, блокирует запрещенные сделки с ценными бумагами и предоставляет немедленные отчеты о выполнении сделок сотрудникам мониторинга.

Для потребительских платежей Регламент E требует, чтобы предварительно авторизованные электронные переводы средств имели письменную или аналогично аутентифицированную авторизацию от держателя счета. Руководство CFPB также гласит, что процесс авторизации должен демонстрировать личность и согласие потребителя, позволяя потребителю остановить или отменить будущие платежи в соответствии с установленными процедурами.

Текущие правила CFPB не указывают напрямую, как должна применяться постоянная инструкция, такая как "управлять моим портфелем", когда агент ИИ независимо выбирает и выполняет отдельные переводы. Sandmark сообщила, что юристы остаются разделенными по вопросу о том, будет ли манипулированный платеж агента напоминать несанкционированный перевод, вызванный украденными учетными данными, или авторизованную транзакцию, выполненную на основе ранее предоставленного доступа.

За пределами Соединенных Штатов заместитель губернатора Банка Англии Сара Бриден заявила в июне, что рамки финансового надзора не были разработаны для автономных агентов и что требование человеческого одобрения для каждого действия может быть нереалистичным. Она сказала, что регуляторы рассматривают более строгие меры предосторожности, включая автоматические отключатели или общерыночные выключатели, если неисправные модели ИИ угрожают торговым системам. Читать далее: Цифровым деньгам нужны совместимые расчетные системы, говорит CEO Lynq