KI kann keine Haftung für verlierende Geschäfte übernehmen, Verantwortung folgt der Delegation: Brickken-CEO

KI-Agenten haben begonnen, Geschäfte auszuführen und Gelder ohne ständige menschliche Genehmigung zu bewegen, was Brickken-CEO Edwin Mata dazu veranlasst hat, zu argumentieren, dass die Haftung der Autorität folgen muss, die der Software gewährt wurde, anstatt an die KI selbst gebunden zu sein.

Zusammenfassung

• KI-Agenten können keine rechtlichen Pflichten übernehmen, da das aktuelle Recht sie nicht als juristische Personen anerkennt.
• Mata sagte, dass die Prinzipale normalerweise die Ergebnisse tragen, wenn Agenten innerhalb eines autorisierten Mandats handeln.
• ERC-8226 schlägt Zeitlimits, finanzielle Obergrenzen, Widerrufskontrollen und überprüfbare Aufzeichnungen für KI-Agenten vor.
• Die US-Wertpapierregeln verlangen bereits, dass Broker-Dealer automatisierte Systeme kontrollieren, die auf regulierte Märkte zugreifen.

Sandmark berichtete am 6. August, dass bestehende Gesetze keine einheitliche Antwort auf Verluste bieten, die durch autonome Finanzagenten verursacht werden, und die Gerichte gezwungen sind, den Benutzer, den Entwickler, die Plattform und die Institution zu prüfen, die an jeder Transaktion beteiligt sind.

Der Bericht besagte, dass Vertragsrecht, Fahrlässigkeitsregeln, Produkthaftung und Treuepflichten alle anwendbar sein könnten, je nachdem, wer den Agenten kontrollierte und was den Verlust verursachte. Ein Benutzer könnte das Ergebnis eines autorisierten Handels tragen, während ein Entwickler oder eine Plattform mit Ansprüchen konfrontiert werden könnte, wenn fehlerhaftes Design, schwache Sicherheitsvorkehrungen oder korrupte Informationen den Agenten außerhalb seiner vorgesehenen Rolle drängten.

Edwin Mata, ein Anwalt und CEO sowie Mitgründer der Tokenisierungsplattform Brickken, kommentierte das Thema und sagte gegenüber crypto.news, dass die Verantwortung niemals direkt der Software zugewiesen werden sollte.

"Nach geltendem Recht ist KI keine juristische Person, die Pflichten übernehmen oder Haftung tragen kann. Es ist ein technisches System, das im Namen einer natürlichen oder juristischen Person handelt."

Laut Mata sollte eine Untersuchung stattdessen klären, wer den Agenten autorisiert hat, wessen Interessen er vertrat und welche Befugnisse ihm erteilt wurden. Eine solche Untersuchung würde helfen, eine verlierende Entscheidung, die innerhalb einer genehmigten Strategie getroffen wurde, von einer Transaktion zu unterscheiden, die die Grenzen des Agenten überschritt.
Sie könnten auch interessiert sein: Krypto-Forschung hat ein Beitrittsproblem, und KI-Agenten beginnen, es zu lösen

Die Haftung von KI-Agenten folgt der erteilten Autorität

Mata verglich die rechtliche Beziehung mit einer Vollmacht, unter der eine Partei die Erlaubnis erhält, im Namen einer anderen innerhalb eines definierten Rahmens zu handeln. Wenn ein Emittent, eine Bank oder ein Investor einen Agenten autorisiert, um Transaktionen durchzuführen, sagte er, würde der Prinzipal normalerweise die Konsequenzen von Handlungen tragen, die innerhalb dieser Autorität bleiben.

Nach demselben Grundsatz könnte ein Investor einen Handel nicht ablehnen, nur weil die Software ein ungünstiges Ergebnis produziert hat. Ein Preisverlust zeigt nicht von sich aus, dass der Agent ohne Erlaubnis gehandelt hat oder dass eine andere Partei ihren Pflichten nicht nachgekommen ist.

"Ein Emittent kann eine ungünstige, aber autorisierte Transaktion nicht einfach ablehnen, nur weil die Entscheidung von Software generiert wurde," sagte Mata.

Die Verantwortung könnte sich ändern, wenn ein Agent sein Mandat überschreitet. Mata sagte, ein Entwickler, eine Plattform oder eine Finanzinstitution könnte haftbar gemacht werden, wenn ihr Design oder ihre Kontrollen das Versagen verursacht oder zugelassen haben, obwohl die endgültige Bewertung von den Fakten und dem anwendbaren Recht abhängt.

Sandmark zitierte ähnliche rechtliche Unterscheidungen in seinem Bericht. Chanté Eliaszadeh, Gründerin von Astraea Counsel, sagte der Publikation, dass die Haftung im Allgemeinen der Kontrolle folgt. Sie sagte, dass Benutzer normalerweise der Ausgangspunkt sind, wenn Agenten in ihrem Namen handeln, aber Entwickler könnten Risiken ausgesetzt sein, wenn ein für den autonomen Handel vermarktetes System auf vorhersehbare Weise versagt.

Die Frage hat an Dringlichkeit gewonnen, da Agenten direkten Zugang zu Wallets und Zahlungssystemen erhalten. Im Mai stellte ein Bericht von Keyrock fest, dass KI-Agenten in den letzten 12 Monaten 73 Millionen Dollar durch 176 Millionen Transaktionen abgewickelt hatten, wobei USDC 98,6 % der untersuchten Zahlungen ausmachte.

Coinbase hat Agenten auch mit Handel, Portfolioverwaltung und Zahlungen unter benutzerdefinierten Grenzen verbunden. Bis Juli hatte Chainalysis mehr als 100 Millionen x402-gebundene Zahlungen auf Base gezählt, obwohl das Analyseunternehmen sagte, dass Meme-Coin-Farming und automatisierte Aktivitäten zu den frühen Transaktionszahlen beigetragen hätten. Die Zahlen repräsentierten daher nicht nur unabhängige Agenten, die Waren oder Dienstleistungen kauften.

Menschliche Genehmigung benötigt klare und durchsetzbare Grenzen
Während eine Person die Aktivitäten eines Agenten formal genehmigen kann, sagte Mata, dass die Zustimmung allein keine sinnvolle Kontrolle bietet, wenn die Person die erteilte Autorität nicht verstehen kann.

Effektive Delegation erfordert seiner Ansicht nach eine Liste erlaubter Aktionen und berechtigter Vermögenswerte sowie Grenzen für einzelne Transaktionen und Gesamtausgaben. Ein Mandat sollte auch seine Dauer, die Bedingungen, die eine menschliche Überprüfung erfordern, das Recht des Mandanten, den Zugang zu widerrufen, und eine Aufzeichnung jeder durchgeführten Aktion festlegen.

Solche Kontrollen erscheinen bereits in kommerziellen Produkten. Anchorage Digital führte im Mai das agentische Banking mit verifizierten Identitäten, Ausgabenlimits und Prüfkontrollen für autonome Systeme ein, die auf Krypto- und traditionelle Zahlungssysteme zugreifen.

Visa und Wirex haben separat agentenbasierte Stablecoin-Zahlungen für Software-Abonnements, Marketingbudgets und Beschaffungen getestet. Laut Wirex wurden die Tests durchgeführt, um Sicherheit, Zuverlässigkeit, Transparenz und Verbrauchersteuerung zu untersuchen, wenn Software Zahlungen für einen Benutzer oder ein Unternehmen initiiert.

Ein Leitfaden zu agentischen Zahlungen aus dem Juni erklärte, wie x402 es autonomer Software ermöglicht, für Daten, Rechenleistungen und Online-Ressourcen mit Stablecoins zu bezahlen. Da diese Zahlungen ohne die Genehmigung einer Person für jede Transaktion erfolgen können, müssen Autorisierungssysteme festlegen, was der Agent kaufen kann, wie viel er ausgeben kann und wann sein Zugang endet.

ERC-8226 würde AI-Agentenmandate onchain aufzeichnen
Mata verwies auf ERC-8226, den vorgeschlagenen Regulated Agent Mandate Standard, als ein Modell, um delegierte Autorität verifizierbar zu machen.

Als Entwurf eines Ethereum-Standards am 12. April eingereicht, ist ERC-8226 für KI-Agenten konzipiert, die mit tokenisierten regulierten Vermögenswerten arbeiten. Der Vorschlag wurde von Brickken-Mitwirkenden Ludovico Rossi, Dario Lo Buglio, Thamer Dridi und Nabil El Alami Khalifi verfasst.

Bekannt als RAMS würde der Standard es einem verifizierten Mandanten ermöglichen, einem onchain-Agenten eine Erlaubnis zu erteilen, die durch Vermögenswert, Aktion, Dauer und Geldwert begrenzt ist. Ein regulierter Token-Vertrag könnte das Mandat überprüfen, wenn der Agent versucht, eine Transaktion auszuführen.

Der Vorschlag trennt drei Fragen, die während eines agentenbasierten Handels auftreten können. Ein Identitätsregister würde bestätigen, dass der Agent existiert, ein Compliance-Anbieter würde feststellen, ob der Mandant berechtigt ist, in dem Vermögenswert zu transagieren, und das RAMS-Register würde überprüfen, ob die geplante Aktion innerhalb des delegierten Mandats liegt.

Unter der Entwurfsspezifikation könnte ein Mandat einen Höchstbetrag für eine Transaktion und einen kumulierten Betrag über mehrere Transaktionen festlegen. Es könnte auch Aktivierungs- und Ablaufzeiten, erlaubte Vermögenswerte, genehmigte Aktionen, Widerrufsfunktionen und Aufzeichnungen enthalten, die zeigen, wie viel Autorität der Agent bereits genutzt hat.

Mata sagte, RAMS würde die Haftung nicht auf den Agenten übertragen oder einen Mandanten für einen autorisierten Verlust entschädigen. Stattdessen würde der vorgeschlagene Standard Beweise liefern, die zeigen, wer die Autorität erteilt hat, was der Agent tun konnte und ob die Transaktion innerhalb dieser Grenzen blieb.

"Zweck ist es, die Zuschreibung verifizierbar zu machen: Wer die Autorität erteilt hat, was der Agent tun durfte, ob es innerhalb dieser Grenzen blieb und welche Person oder Kontrolle versagte, als dies nicht der Fall war."

ERC-8226 bleibt ein Entwurf und ist weder ein angenommener Ethereum-Standard noch eine rechtliche Anforderung. Auf seiner Diskussionsseite werden auch ungelöste Fragen aufgeführt, darunter, ob Tokens, die von einem Agenten gekauft wurden, im Wallet des Agenten verbleiben oder direkt im Wallet des Hauptauftraggebers abgewickelt werden sollten.

U.S.-Regeln belassen die Verantwortung bei regulierten Unternehmen

Für die Märkte in den USA legen bestehende Wertpapierregeln bereits Pflichten für die Unternehmen fest, die den Zugang zu Börsen und alternativen Handelssystemen ermöglichen.

Nach der SEC-Regel 15c3-5 muss ein Broker-Dealer, der Marktzugang bietet, finanzielle und regulatorische Risikokontrollen unter seiner direkten und ausschließlichen Kontrolle aufrechterhalten, mit wenigen Ausnahmen. Die SEC-Anleitung besagt, dass der Broker-Dealer auch dann für die Wirksamkeit dieser Kontrollen verantwortlich bleibt, wenn er Technologien eines unabhängigen Dritten nutzt.

Die Regel erfordert automatisierte Vorhandelsprüfungen, die darauf abzielen, Aufträge zu stoppen, die vordefinierte Kredit- oder Kapitalgrenzen überschreiten. Sie verlangt auch Kontrollen, die den Handelssystemen den Zugang nur für autorisierte Personen ermöglichen, verbotene Wertpapiertransaktionen blockieren und sofortige Ausführungsberichte an das Überwachungspersonal liefern.

Für Verbrauchszahlungen verlangt die Verordnung E, dass vorab genehmigte elektronische Geldtransfers eine schriftliche oder ähnlich authentifizierte Genehmigung des Kontoinhabers tragen. Die CFPB-Anleitung besagt ebenfalls, dass der Genehmigungsprozess die Identität und Zustimmung des Verbrauchers nachweisen sollte, während er dem Verbraucher ermöglicht, zukünftige Zahlungen unter bestimmten Verfahren zu stoppen oder zu widerrufen.

Die aktuellen CFPB-Regeln geben nicht direkt an, wie eine stehende Anweisung wie "verwaltet mein Portfolio" anzuwenden ist, wenn ein KI-Agent unabhängig einzelne Überweisungen auswählt und ausführt. Sandmark berichtete, dass Anwälte gespalten sind, ob eine manipulierte Agentenzahlung einer unbefugten Überweisung ähnelt, die durch gestohlene Anmeldeinformationen verursacht wurde, oder einer autorisierten Transaktion, die unter zuvor erteilter Genehmigung durchgeführt wurde.

Außerhalb der Vereinigten Staaten sagte die stellvertretende Gouverneurin der Bank von England, Sarah Breeden, im Juni, dass die Rahmenbedingungen für die Finanzaufsicht nicht für autonome Agenten ausgelegt seien und dass es unrealistisch sein könnte, für jede Aktion eine menschliche Genehmigung zu verlangen. Sie sagte, die Aufsichtsbehörden erwogen stärkere Sicherheitsvorkehrungen, einschließlich Schaltkreisen oder marktweiten Notabschaltungen, wenn fehlerhafte KI-Modelle die Handelssysteme bedrohten.

Weitere Informationen: Digitale Währungen benötigen interoperable Abwicklungsinfrastrukturen, sagt der CEO von Lynq.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.