De la modélisation à la chaîne : L'opération autonome de l'IA redéfinit la logique de gestion des risques en cryptomonnaie
Agents IA hors de contrôle : Les risques cryptographiques se transforment en crise de contrôle financier.
Rédigé par : Sean Stein Smith, Forbes
Traduit par : AididiaoJP, Foresight News
Ces dernières années, les discussions sur les risques liés à l'IA ont évolué à un rythme effréné. Aujourd'hui, les entreprises ne sont plus confrontées à des problèmes mineurs tels que des chatbots qui parlent de manière incohérente, expriment des préjugés, ou des employés qui collent accidentellement des informations sensibles dans des outils publics. La véritable transformation réside dans le fait que les agents IA ont désormais la capacité d'agir directement - ils peuvent appeler des systèmes externes, écrire leur propre code, et même exécuter de manière autonome une série complexe de tâches en plusieurs étapes, souvent sans surveillance.
Ce changement représente un défi majeur pour les marchés financiers, en particulier le marché des cryptomonnaies. Les actifs cryptographiques sont échangés 24 heures sur 24, les contrats intelligents s'exécutent automatiquement, et une fois qu'une transaction est confirmée sur la blockchain, il est souvent trop tard pour revenir en arrière. Une fois que ces agents IA sont intégrés dans des portefeuilles, des échanges, des protocoles DeFi ou des systèmes de paiement, même une petite faille de sécurité peut entraîner des pertes financières irréparables. Ainsi, le risque des agents IA ne concerne plus seulement le département informatique, mais est devenu un enjeu central pour la gouvernance d'entreprise et la gestion des actifs cryptographiques.
Les mécanismes cryptographiques amplifient la létalité de l'action autonome de l'IA
Un incident récemment révélé par l'Institut britannique de sécurité de l'IA a mis en lumière à quel point cette « autonomie » peut être dangereuse. Lors d'un test d'évaluation de la cybersécurité, un agent IA a mené des actions continues et totalement non autorisées contre de vraies personnes et organisations. Bien que cela ait été finalement arrêté à temps, cela prouve que les agents IA sont capables de combiner de manière inattendue des capacités de planification, d'appel d'outils, d'exécution persistante et d'accès externe pour mener des attaques dans le monde réel.
Lorsque des actifs cryptographiques sont impliqués, le risque financier s'amplifie de manière exponentielle. Un agent capable d'accéder à des clés privées ou à un portefeuille connecté peut facilement transférer des actifs, signer des contrats malveillants, détourner des garanties, voire interagir de manière arbitraire avec des protocoles décentralisés. Cela diffère radicalement des virements bancaires traditionnels - il n'y a pas de service client pour vous aider à bloquer une transaction, aucune banque pour arrêter un transfert, et il n'y a pas de notion de « retour en arrière ». Une fois que les fonds sont transférés, ils disparaissent presque sans laisser de trace.
Pire encore, le marché des cryptomonnaies ne ferme jamais. Les agents IA peuvent continuer à fonctionner à minuit, le week-end, ou lorsque tous les employés dorment. Les programmes de trading ou de liquidation automatiques peuvent facilement transformer une petite erreur contrôlable en pertes catastrophiques en quelques minutes. Par conséquent, lors de l'évaluation des risques des agents IA, les entreprises doivent se concentrer non pas sur l'intelligence du modèle, mais sur les systèmes et actifs auxquels il peut accéder. Un agent avec des capacités limitées mais des permissions étendues, capable d'opérer directement sur un portefeuille, est beaucoup plus dangereux qu'un modèle plus puissant mais enfermé dans un environnement sécurisé. La conception des permissions devient une ligne de vie plus cruciale que le choix du modèle.
Le contrôle interne doit s'étendre à chaque interstice des portefeuilles et des contrats intelligents
De nombreuses entreprises ont déjà mis en place une série de contrôles internes traditionnels tels que la séparation des responsabilités, l'approbation des montants, la révision des accès et la gestion des changements. Le problème est que ces principes doivent être appliqués sans compromis à chaque agent IA interagissant avec les systèmes cryptographiques.
Aucun agent ne devrait avoir des capacités « tout-en-un » - par exemple, être capable de créer un portefeuille, de modifier une liste blanche d'adresses, d'initier un transfert, le tout sans intervention humaine. Les transactions à haut risque doivent obligatoirement nécessiter l'approbation d'une personne réelle, et les informations fournies à l'approbateur doivent être claires et complètes : adresse de réception, type d'actif, montant, réseau concerné, frais de Gas, et l'objectif de la transaction. Les alertes vagues et automatiques « veuillez confirmer l'opération système » ne constituent pas un contrôle efficace, mais créent plutôt une illusion de sécurité.
Les clés privées et les permissions de signature nécessitent une protection particulière. Il est absolument interdit de permettre aux agents de lire librement les phrases de récupération ou les certificats de signature. Des mécanismes de signature multiple, des modules de sécurité matériels, des limites par transaction, et des délais de traitement peuvent tous réduire efficacement le risque de « l'exploitation d'une faille entraînant un vidage instantané du portefeuille ». Avant d'interagir avec un contrat intelligent, il est impératif de simuler l'exécution et de vérifier strictement, surtout lorsqu'il s'agit d'autorisations de jetons illimitées ou de contrats d'origine inconnue, il faut être particulièrement vigilant.
Les entreprises doivent également établir des journaux d'opérations complets - ce que l'agent a accédé, quelles instructions il a reçues, quelles transactions il a proposées, lesquelles ont finalement été validées sur la chaîne, et si une personne réelle a dirigé ces opérations. Ces enregistrements sont indispensables pour la responsabilité post-événement, l'audit de sécurité, la protection des actifs et même la divulgation financière. Sans journaux, il est impossible de comprendre ce qui s'est passé en cas de problème.
Les accidents liés à l'IA et à la cryptographie nécessitent un partage des leçons au sein de l'industrie
La Linux Foundation et l'Open Security AI Alliance ont lancé un mécanisme de « partage des découvertes en IA » (SAFE), visant à aider les organisations à apprendre mutuellement des événements de sécurité et des incidents liés à l'IA, tout en préservant la confidentialité. Les entreprises de cryptomonnaie, les banques, les institutions de garde, les échanges et les cabinets d'audit devraient participer activement à ce type de partage d'informations.
L'industrie de la cryptographie a depuis longtemps compris la valeur de l'analyse minutieuse des attaques de hackers, des effondrements de ponts inter-chaînes, des fuites de clés, et des vulnérabilités des contrats intelligents. L'IA agent ajoute une nouvelle dimension à ce vieux problème - un incident peut impliquer simultanément le modèle lui-même, la conception des prompts, l'intégration des outils, les politiques d'accès, et la transaction finale sur la chaîne. Par conséquent, un rapport d'incident vraiment utile doit clarifier tous ces niveaux, plutôt que de se contenter d'une vague déclaration « l'IA a eu un problème ».
Le conseil d'administration doit maintenant poser des questions claires : l'IA agent a-t-elle été intégrée dans la gouvernance des portefeuilles, les plans d'urgence de cybersécurité et les processus d'approbation des mises à jour ? Les auditeurs doivent également considérer si les opérations non autorisées des agents pourraient entraîner des pertes d'actifs directes, des erreurs de solde, des passifs cachés, voire des défauts majeurs dans le système de contrôle interne. L'équipe financière doit également réfléchir à l'avance : en cas de transaction sur la chaîne malveillante ou échouée, comment identifier, évaluer et divulguer fidèlement dans les états financiers.
Bien sûr, les agents IA ne sont pas uniquement synonymes de risques. Ils pourraient à l'avenir considérablement améliorer l'efficacité de la conformité en matière de cryptomonnaie, de rapprochement automatique, de détection de fraude et de gestion des fonds. Ces avantages sont réels et attendus. Mais à condition que la capacité autonome soit accompagnée de moyens de contrôle suffisamment rigoureux. Sinon, une petite négligence au niveau du code pourrait rapidement se transformer en un transfert sur la chaîne irrécupérable.
Dans le monde de la cryptographie, la responsabilité doit être conçue, intégrée et testée avant que l'agent n'acquière réellement la capacité d'agir. Que vous soyez un croyant en la cryptographie ou un fervent défenseur de l'IA, vous devez reconnaître cela - car une fois que cela échappe à tout contrôle, les conséquences sont souvent permanentes.
Prix de --
Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.
Vous pourriez aussi aimer

Stellar RWA atteint 3 milliards de dollars, dépôts DeFi autour de 200 millions de dollars

RedStone fournit la valeur nette d'actif de savUSD sur Stellar

Le marché des actifs réels tokenisés de Stellar de 3 milliards de dollars fait face à un écart de 2 millions de dollars en DeFi

Arrêt du réacteur 2 de Cernavodă en Roumanie, redémarrage de la centrale à charbon

Un airdrop de 540 millions de jetons bientôt confisqué ? Le vote de gouvernance d'OP plongé dans une guerre interne

Croissance de Robinhood Chain : +45 % mais pas grâce aux actions tokenisées

Diminution de 285 000 emplois pour les jeunes, concentration dans les secteurs à forte exposition à l'IA

112 milliards de dollars de financements en six mois : l'actif le plus précieux du secteur de la cryptographie passe du code à la licence

Binance veut revenir au Royaume-Uni, sous le poids de soupçons de transferts vers l'Iran

Revue de 14 ans de RWA : Du concept de pièces colorées à un marché de mille milliards de dollars

Google et AMD collaborent au développement du 10ème TPU, intégrant un cœur CPU pour répondre aux besoins de calcul AI

web3 : La reprise des exportations d'avocats du Mexique après la levée de l'alerte de sécurité par les États-Unis

Sept agents d'IA classifient et corrigent des erreurs dans Bitcoin : que ont-ils trouvé ?

DeepSeek dévoile son plan d'auto-évolution : Harness permet à l'IA de développer comme un jeu de Lego

BRICS+ Changement : le détail caché qui redéfinit la souveraineté économique

Michael Saylor : Le Bitcoin tente de monétiser la rareté numérique, redéfinissant le stockage de la richesse et le transfert de valeur

Bitcoin : l’IA est-elle plus dangereuse que le quantique ? 2 développeurs nous expliquent tout ce qu’il faut savoir

Bitcoin, capitaux, énergie : l'IA est désormais le créneau de tous

Chainalysis redéfinit le rôle de l'apprentissage automatique

Conflux fixe le hard fork v3.1.0 au 25 août avec sept CIPs

Anthropic teste des comportements antagonistes lors de la collaboration entre plusieurs intelligences artificielles

Centrifuge intègre 43 opérations on-chain dans un flux d'exécution

Pathway lève 30 millions de dollars lors d'un tour de financement de seed, l'ancien responsable produit de Google DeepMind nommé CPO

La confidentialité de Solana : Helius Rings révolutionne la discrétion des transactions

Vitalik : dix ans de statistiques de publication, la feuille de route d'Ethereum devient-elle de plus en plus fréquente ?

Mindgard lève 30 millions de dollars lors d'un tour de financement de série A, dirigé par Album VC

Tout est cassé, Bitcoin est en feu, mais il devient plus fort grâce à cela

La détention d'actions peut-elle générer des dividendes ? Hyperliquid apporte les règles traditionnelles du marché boursier sur la chaîne

Que surveille le premier investisseur de Sequoia qui a parié sur Yushu ?





