Штучний інтелект не може нести відповідальність за збиткові угоди, відповідальність слідує за делегуванням: генеральний директор Brickken

Агенти штучного інтелекту почали виконувати угоди та переміщати кошти без постійного схвалення людини, що спонукало генерального директора Brickken Едвіна Мату стверджувати, що відповідальність повинна слідувати за повноваженнями, наданими програмному забезпеченню, а не прикріплюватися до самого штучного інтелекту.

Резюме

• Агенти штучного інтелекту не можуть брати на себе юридичні обов'язки, оскільки чинне законодавство не визнає їх юридичними особами.
• Мата зазначив, що принципали зазвичай несуть наслідки, коли агенти діють у межах уповноваженого мандату.
• ERC-8226 пропонує часові обмеження, фінансові ліміти, контроль за відкликанням та перевіряємими записами для агентів штучного інтелекту.
• Правила цінних паперів США вже вимагають, щоб брокери-контрактори контролювали автоматизовані системи, які отримують доступ до регульованих ринків.

Sandmark повідомив 6 серпня, що існуючі закони не надають єдиної відповіді на питання про збитки, завдані автономними фінансовими агентами, залишаючи судам розглядати користувача, розробника, платформу та установу, залучену до кожної угоди.

У звіті зазначено, що до контрактного права, правил недбалості, відповідальності за продукцію та фідуціарних обов'язків можуть застосовуватися всі ці аспекти, залежно від того, хто контролював агента та що спричинило збиток. Користувач може нести наслідки авторизованої угоди, тоді як розробник або платформа можуть зіткнутися з позовами, якщо неналежний дизайн, слабкі засоби захисту або спотворена інформація вивели агента за межі його призначеної ролі.

Коментуючи цю проблему, Едвін Мата, юрист та генеральний директор і співзасновник платформи токенізації Brickken, сказав crypto.news, що відповідальність ніколи не повинна бути безпосередньо покладена на програмне забезпечення.

"Згідно з чинним законодавством, штучний інтелект не є юридичною особою, здатною брати на себе обов'язки або нести відповідальність. Це технічна система, що діє від імені фізичної або юридичної особи."

Згідно з Мато, розслідування повинно встановити, хто уповноважив агента, чиї інтереси він представляв і які повноваження він отримав. Таке розслідування допоможе відрізнити збиткове рішення, ухвалене в межах затвердженої стратегії, від угоди, яка порушила межі агента.
Вам також може бути цікаво: Дослідження криптовалют має проблему приєднання, і агенти штучного інтелекту починають її вирішувати.

Відповідальність агента штучного інтелекту слідує за наданими повноваженнями

Мата порівняв юридичні відносини з довіреністю, за якою одна сторона отримує дозвіл діяти від імені іншої в межах визначеного обсягу. Коли емітент, банк або інвестор уповноважує агента на проведення угод, він зазначив, що принципал зазвичай несе наслідки дій, які залишаються в межах цих повноважень.

З тієї ж причини інвестор не може відхилити угоду лише тому, що програмне забезпечення дало несприятливий результат. Втрата ціни сама по собі не свідчить про те, що агент діяв без дозволу або що інша сторона не виконала свої обов'язки.

"Емітент не може відмовитися від несприятливої, але уповноваженої угоди лише тому, що рішення було згенеровано програмним забезпеченням," - сказав Мата.

Відповідальність може змінитися, коли агент перевищує свої повноваження. Мата зазначив, що розробник, платформа або фінансова установа можуть зіткнутися з ризиком, якщо їхній дизайн або контроль спричинили або дозволили невдачу, хоча остаточна оцінка залежатиме від фактів і застосовного законодавства.

Sandmark наводив подібні юридичні відмінності у своєму звіті. Шантé Еліязаде, засновник Astraea Counsel, сказала виданню, що відповідальність зазвичай слідує контролю. Вона зазначила, що користувачі зазвичай є початковою точкою, коли агенти діють від їхнього імені, але розробники можуть зіткнутися з ризиком, якщо система, що рекламується для автономної торгівлі, зазнала невдачі в передбачуваний спосіб.

Це питання набуло терміновості, оскільки агенти отримують прямий доступ до гаманців і платіжних систем. У травні звіт Keyrock виявив, що агенти штучного інтелекту здійснили угоди на суму 73 мільйони доларів через 176 мільйонів угод протягом попередніх 12 місяців, при цьому USDC становив 98,6% перевірених платежів.

Coinbase також підключила агентів до торгівлі, управління портфелем та платежів з обмеженнями, встановленими користувачем. До липня Chainalysis підрахувала понад 100 мільйонів платежів, пов'язаних з x402, на Base, хоча аналітична компанія зазначила, що фермерство мем-коінів та автоматизована діяльність сприяли раннім обсягам транзакцій. Отже, ці цифри не відображали лише незалежних агентів, які купують товари чи послуги.

Необхідність чітких та обов'язкових обмежень для людського схвалення
Хоча особа може формально схвалити діяльність агента, Мата зазначив, що згода сама по собі не забезпечує значного контролю, якщо особа не може зрозуміти надану владу.

На його думку, ефективна делегація вимагає списку дозволених дій та допустимих активів, а також обмежень для окремих транзакцій та загальних витрат. Мандат також має вказувати його тривалість, умови, що вимагають людського перегляду, право принципала відкликати доступ та запис кожної виконаної дії.

Такі контролі вже з'являються в комерційних продуктах. Anchorage Digital представила агентське банківництво в травні з перевіреними особами, обмеженнями витрат та аудитом для автономних систем, що отримують доступ до крипто- та традиційних платіжних систем.

Visa та Wirex окремо протестували платежі стейблкоінів, керовані агентами, для підписки на програмне забезпечення, маркетингових бюджетів та закупівель. За словами Wirex, випробування були розроблені для перевірки безпеки, надійності, прозорості та контролю споживачів, коли програмне забезпечення ініціює платежі для користувача або бізнесу.

У червневому посібнику з агентських платежів пояснювалося, як x402 дозволяє автономному програмному забезпеченню оплачувати дані, обчислювальні послуги та онлайн-ресурси, використовуючи стейблкоіни. Оскільки ці платежі можуть відбуватися без схвалення кожної транзакції особою, системи авторизації повинні встановити, що агент може купувати, скільки він може витратити та коли його доступ закінчується.

ERC-8226 фіксуватиме мандати AI-агентів в блокчейні
Мата вказав на ERC-8226, запропонований Стандарт мандатів регульованих агентів, як одну з моделей для перевірки делегованої влади.

Поданий як проект стандарту Ethereum 12 квітня, ERC-8226 призначений для AI-агентів, які працюють з токенізованими регульованими активами. Пропозицію написали учасники Brickken Людовіко Россі, Даріо Ло Бугліо, Тамер Дріді та Набіль Ель Аламі Халіфі.

Відомий як RAMS, стандарт дозволить перевіреному принципалу надати агенту в блокчейні дозвіл, обмежений активом, дією, тривалістю та грошовою вартістю. Контракт регульованого токена може перевірити мандат, коли агент намагається виконати транзакцію.

Пропозиція розділяє три питання, які можуть виникнути під час торгівлі, керованої агентом. Реєстр особистостей підтвердить, що агент існує, постачальник відповідності визначить, чи має принципал право на транзакцію з активом, а реєстр RAMS перевірить, чи запланована дія входить до делегованого мандату.

Згідно з проектом специфікації, мандат може встановити максимальну суму для однієї транзакції та накопичену суму для кількох транзакцій. Він також може включати час активації та закінчення, дозволені активи, схвалені дії, функції відкликання та записи, що показують, скільки влади агент вже використав.

Мата зазначив, що RAMS не передаватиме відповідальність агенту або не відшкодовуватиме принципалу за авторизовану втрату. Натомість запропонований стандарт надасть докази, що показують, хто надав владу, що агент міг робити та чи залишалася транзакція в межах цих обмежень.

"Його мета - зробити атрибуцію перевіряємою: хто надав владу, що агенту дозволялося робити, чи залишалося це в межах цих обмежень і яка особа або контроль зазнали невдачі, коли це не сталося."

ERC-8226 залишається проектом, а не прийнятим стандартом Ethereum або юридичною вимогою. На його сторінці обговорення також наведено невирішені питання, зокрема, чи повинні токени, придбані агентом, залишатися в гаманці агента чи безпосередньо надходити в гаманець принципала.

Правила США залишають відповідальність за регульованими компаніями

Для ринків США існуючі правила цінних паперів вже покладають обов'язки на компанії, які надають доступ до бірж і альтернативних торгових систем.

Згідно з правилом SEC 15c3-5, брокер-дилер, що надає доступ до ринку, повинен підтримувати фінансові та регуляторні ризикові контролі під своїм прямим і виключним контролем, за винятком обмежених випадків. Вказівки SEC стверджують, що брокер-дилер залишається відповідальним за ефективність цих контролів, навіть коли він використовує технології, надані незалежною третьою стороною.

Правило вимагає автоматизованих перевірок перед торгівлею, які призначені для зупинки замовлень, що перевищують встановлені кредитні або капітальні пороги. Воно також вимагає контролів, які обмежують торгові системи авторизованими особами, блокують заборонені угоди з цінними паперами та надають негайні звіти про виконання співробітникам нагляду.

Для споживчих платежів Регламент E вимагає, щоб попередньо авторизовані електронні перекази коштів мали письмову або аналогічно автентифіковану авторизацію від власника рахунку. Вказівки CFPB також стверджують, що процес авторизації повинен демонструвати особу споживача та його згоду, дозволяючи споживачу зупинити або відкликати майбутні платежі відповідно до визначених процедур.

Поточні правила CFPB не вказують безпосередньо, як має застосовуватися постійна інструкція, така як "керувати моїм портфелем", коли агент ШІ незалежно вибирає та виконує окремі перекази. Sandmark повідомив, що юристи залишаються розділеними щодо того, чи буде маніпульований платіж агента схожим на несанкціонований переказ, викликаний вкраденими обліковими даними, чи на санкціоновану угоду, виконану за раніше наданим доступом.

За межами Сполучених Штатів заступник губернатора Банку Англії Сара Брідан сказала в червні, що фінансові наглядові рамки не були розроблені для автономних агентів і що вимога людського затвердження для кожної дії може бути нереалістичною. Вона зазначила, що регулятори розглядають можливість посилення заходів безпеки, включаючи автоматичні вимикачі або загальні вимикачі ринку, якщо несправні моделі ШІ загрожують торговим системам. Читати далі: Цифрові гроші потребують взаємодіючих розрахункових систем, говорить CEO Lynq

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.