Von Modellen zu On-Chain: KI-gesteuerte Operationen verändern die Logik des Risikomanagements im Krypto-Bereich

Unkontrollierte KI-Agenten: Krypto-Risiken entwickeln sich zu einer finanziellen Kontrollkrise.

Verfasser: Sean Stein Smith, Forbes

Übersetzung: AididiaoJP, Foresight News

In den letzten Jahren hat sich die Diskussion über KI-Risiken so schnell verändert, dass es schwerfällt, Schritt zu halten. Die Unternehmen sehen sich nicht mehr nur mit den kleinen Problemen konfrontiert, die durch gelegentlich fehlerhafte Chatbots oder Mitarbeiter verursacht werden, die versehentlich sensible Informationen in öffentlichen Tools einfügen. Der wirkliche qualitative Wandel besteht darin, dass KI-Agenten nun die Fähigkeit haben, direkt zu handeln – sie können externe Systeme ansteuern, selbstständig Code schreiben und sogar komplexe, mehrstufige Aufgaben unabhängig vorantreiben, ohne dass jemand darauf achtet.

Diese Veränderung bringt äußerst ernsthafte Herausforderungen für die Finanzmärkte, insbesondere für den Krypto-Markt. Krypto-Assets werden rund um die Uhr gehandelt, Smart Contracts werden automatisch ausgeführt, und einmal bestätigte Transaktionen auf der Blockchain sind oft unwiderruflich. Sobald diese KI-Agenten in Wallets, Börsen, DeFi-Protokolle oder Zahlungssysteme integriert werden, kann selbst ein winziger Berechtigungsfehler direkt zu irreparablen finanziellen Verlusten führen. Daher ist das Risiko von agentenbasierter KI längst nicht mehr nur eine Angelegenheit der IT-Abteilung, sondern ist zu einer zentralen Frage der Unternehmensführung und der Kontrolle von Krypto-Assets geworden.

Kryptomechanismen verstärken die Gefährlichkeit autonomer KI-Operationen

Ein kürzlich offengelegter Vorfall des britischen Instituts für KI-Sicherheit hat verdeutlicht, wie gefährlich diese „Autonomie“ tatsächlich ist. Bei einem Cyber-Sicherheitstest führte ein KI-Agent kontinuierliche und vollständig unautorisierte Aktionen gegen echte Personen und Organisationen durch. Obwohl dies schließlich rechtzeitig gestoppt wurde, beweist es, dass KI-Agenten durchaus in der Lage sind, Planungsentscheidungen, Werkzeugaufrufe, dauerhafte Ausführung und externen Zugriff auf unerwartete Weise zu kombinieren, um Angriffe in der realen Welt durchzuführen.

Wenn Krypto-Assets involviert sind, vervielfacht sich das finanzielle Risiko exponentiell. Ein Agent, der auf private Schlüssel oder verbundene Wallets zugreifen kann, kann problemlos Vermögenswerte transferieren, bösartige Verträge unterzeichnen, Sicherheiten umwidmen oder sogar beliebige Interaktionen mit dezentralen Protokollen durchführen. Dies unterscheidet sich grundlegend von traditionellen Banküberweisungen – es gibt keinen Kundenservice, der Ihnen bei einem Notfall helfen kann, keine Bank, die Transaktionen stoppen kann, und kein „Rückbuchungsverfahren“. Sobald Gelder transferiert werden, ist es fast so, als wären sie im Nichts verschwunden.

Besonders problematisch ist, dass der Krypto-Markt niemals schließt. KI-Agenten können mitten in der Nacht, am Wochenende oder während alle Mitarbeiter schlafen, weiterarbeiten. Automatisierte Handels- oder Abwicklungsprogramme können in nur wenigen Minuten einen ursprünglich kontrollierbaren kleinen Fehler zu einem katastrophalen Verlust ausweiten. Daher sollten Unternehmen bei der Bewertung von KI-Agenten-Risiken nicht nur darauf achten, wie intelligent das Modell ist, sondern auch darauf, auf welche Systeme und Assets es zugreifen kann. Ein durchschnittlich fähiger Agent mit weitreichenden Berechtigungen, der direkt auf Wallets zugreifen kann, ist weitaus gefährlicher als ein leistungsfähigeres Modell, das streng in einer Sandbox gehalten wird. Die Berechtigungsgestaltung wird zur entscheidenden Lebensader, die wichtiger ist als die Auswahl des Modells.

Interne Kontrollen müssen in jede Lücke von Wallets und Smart Contracts ausgeweitet werden

Viele Unternehmen haben bereits eine Reihe traditioneller interner Kontrollmaßnahmen wie Trennung von Aufgaben, Genehmigungsgrenzen, Zugriffsüberprüfungen und Änderungsmanagement etabliert. Das Problem ist, dass diese Prinzipien ohne Abstriche auf jeden KI-Agenten, der mit Krypto-Systemen interagiert, angewendet werden müssen.

Kein Agent sollte die Fähigkeit haben, „alles in einem“ zu tun – zum Beispiel gleichzeitig ein Wallet zu erstellen, die Adressliste zu ändern und eine Überweisung einzuleiten, ohne dass menschliches Eingreifen erforderlich ist. Hochriskante Transaktionen müssen zwingend eine Genehmigung durch eine reale Person erfordern, und die Informationen, die der Genehmigende erhält, müssen klar und vollständig sein: Empfängeradresse, Asset-Typ, Betrag, Netzwerk, Gasgebühren und was genau mit dieser Transaktion geschehen soll. Vage, automatisch eingeblendete „Bitte bestätigen Sie die Systemoperation“-Erinnerungen sind kein effektives Kontrollmittel und schaffen nur ein trügerisches Gefühl von Sicherheit.

Private Schlüssel und Signaturberechtigungen müssen besonders geschützt werden. Es darf nicht erlaubt sein, dass Agenten willkürlich Mnemonik oder Signaturnachweise lesen. Multi-Signatur-Mechanismen, Hardware-Sicherheitsmodule, Einzeltransaktionslimits und verzögerte Auszahlungen können das Risiko, dass „ein Fehler ausgenutzt wird und die Wallet sofort geleert wird“, erheblich reduzieren. Vor der Interaktion mit Smart Contracts muss eine Simulation durchgeführt und streng überprüft werden, insbesondere wenn es um unbegrenzte Token-Berechtigungen oder Verträge mit unbekannter Herkunft geht, sollte höchste Vorsicht geboten sein.

Unternehmen müssen auch vollständige Betriebsprotokolle führen – was der Agent besucht hat, welche Befehle er erhalten hat, welche Transaktionen vorgeschlagen wurden, welche letztendlich erfolgreich auf die Blockchain gebracht wurden und ob eine reale Person diese Operationen vollständig geleitet hat. Diese Aufzeichnungen sind für die nachträgliche Verantwortlichkeit, Sicherheitsprüfungen, Vermögensschutz und sogar für die finanzielle Offenlegung unerlässlich. Ohne Protokolle kann man im Falle eines Vorfalls nicht einmal den Überblick behalten.

Unfälle mit KI und Krypto erfordern branchenweite Lehren

Die Linux Foundation und die Open Security AI Alliance haben bereits den Mechanismus „Shared AI Discovery Exchange“ (SAFE) eingeführt, um Organisationen zu helfen, unter Wahrung der Vertraulichkeit voneinander zu lernen, was echte KI-Sicherheitsvorfälle und -risiken sind. Krypto-Unternehmen, Banken, Verwahrstellen, Börsen und Prüfungsinstitutionen sollten aktiv an solchen Informationsaustauschen teilnehmen.

Die Krypto-Branche hat schon lange erkannt, wie wertvoll es ist, Hackerangriffe, Brücken-Kollaps, Schlüssel-Lecks und Smart Contract-Schwachstellen sorgfältig zu analysieren. Agentenbasierte KI bringt jedoch eine neue Dimension in dieses alte Problem – ein Vorfall kann gleichzeitig das Modell selbst, das Design der Eingabeaufforderungen, die Integration von Werkzeugen, die Zugriffsrichtlinien und die letztendliche Transaktion auf der Blockchain betreffen. Daher müssen wirklich nützliche Unfallberichte all diese Ebenen klar darstellen und nicht vage mit „KI hatte ein Problem“ abtun.

Der Vorstand sollte jetzt klar nachfragen: Wurde agentenbasierte KI in die Wallet-Governance, Notfallpläne für Cybersicherheit und Genehmigungsprozesse für Updates einbezogen? Prüfer sollten auch in Betracht ziehen, ob unautorisierte Agentenoperationen zu direkten Vermögensverlusten, falschen Salden, versteckten Verbindlichkeiten oder sogar erheblichen Mängeln im internen Kontrollsystem führen könnten. Das Finanzteam sollte sich im Voraus Gedanken darüber machen, wie im Falle einer böswilligen oder fehlgeschlagenen On-Chain-Transaktion identifiziert, bewertet und in den Berichten offengelegt werden kann.

Natürlich sind KI-Agenten nicht nur mit Risiken behaftet. Sie könnten in Zukunft die Effizienz von Krypto-Compliance, automatisierten Abgleichen, Betrugserkennung und Vermögensverwaltung erheblich steigern. Diese Vorteile sind realistisch zu erwarten. Aber die Voraussetzung ist, dass die autonomen Fähigkeiten mit ausreichend strengen Kontrollmaßnahmen ausgestattet sind. Andernfalls kann ein kleiner Fehler auf Code-Ebene im Handumdrehen zu einer nicht mehr rückholbaren On-Chain-Überweisung werden.

In der Krypto-Welt muss die Verantwortung bereits vor der tatsächlichen Handlungsfähigkeit des Agenten entworfen, eingebettet und getestet werden. Egal, ob Sie ein Gläubiger der Krypto oder ein Befürworter von KI sind, Sie sollten dies ernst nehmen – denn wenn es außer Kontrolle gerät, ist das Ergebnis oft dauerhaft.

Dieser Inhalt wird nur zu allgemeinen Informationszwecken bereitgestellt und stellt keine finanzielle, Anlage-, Rechts- oder Steuerberatung dar. Alle erwähnten Ereignisse, Prämien, Online-Aktionen oder zugehörige Informationen sollten nicht als Empfehlung, Aufforderung oder Einladung zum Kauf, Verkauf, Handel oder anderweitigem Umgang mit Krypto-Assets betrachtet werden. Krypto-Assets sind sehr volatil und können zu Verlusten führen. Die Verfügbarkeit von WEEX Services, Produkten und zugehörigen Aktionen kann je nach Region unterschiedlich sein. Sie sind dafür verantwortlich sicherzustellen, dass Ihre Teilnahme mit geltenden lokalen Gesetzen und Vorschriften übereinstimmt.