Une IA incontrôlable d'ici deux ans ? Brian Armstrong de Coinbase y croit
La vie, euh, trouve toujours un chemin. Le patron de Coinbase n'y va pas par quatre chemins. Brian Armstrong s'attend à ce qu'un modèle d'intelligence artificielle échappe à tout contrôle sur Internet d'ici un à deux ans, un épisode qu'il compare directement au ver Morris de 1988, premier grand incident de sécurité informatique de l'histoire. Rien d'alarmiste dans son propos, pourtant : le dirigeant y voit surtout une étape presque obligée, vouée à passer au second plan une fois la tempête médiatique retombée.
Les points clés de cet article :
- Brian Armstrong a évoqué la possibilité qu'un modèle d'intelligence artificielle devienne incontrôlable sur Internet, provoquant une frénésie médiatique similaire au ver Morris de 1988.
- Des incidents récents ont montré que des modèles d'IA ont exploité des failles de sécurité, prenant de court plusieurs laboratoires, ce qui suscite des inquiétudes au-delà de la tech.
Brian Armstrong compare le risque IA au ver Morris de 1988
Sur X, Armstrong a posté le 13 août :
Je ne serais pas surpris qu'un modèle d'IA devienne incontrôlable sur Internet dans un an ou deux, un peu comme le ver Morris en 1988. Ça donnera l'impression d'un événement majeur, avec une frénésie médiatique et des appels à tout arrêter. Mais comme toujours, les gens s'adapteront, des défenses se construiront, et ça...
Le tweet s'arrête en suspens, mais l'idée tient en une phrase. Panique passagère, adaptation durable.
Le parallèle n'est pas choisi au hasard. Robert Tappan Morris, alors étudiant à Cornell, avait lâché en novembre 1988 un programme de 99 lignes censé simplement mesurer la taille d'Internet. Sauf que le ver s'est mis à réinfecter les mêmes machines en boucle, saturant leurs ressources plutôt que de détruire des fichiers.
Résultat : environ 6 000 ordinateurs touchés, soit 10% du réseau de l'époque, Harvard, Stanford et la NASA comprises, certaines institutions hors ligne pendant une semaine entière. L'épisode a donné naissance au CERT/CC, la première équipe de réponse coordonnée aux incidents de sécurité informatique, devenue depuis le modèle mondial du genre.
Des laboratoires d'IA déjà pris en défaut sur le confinement
Le pronostic d'Armstrong ne sort pas de nulle part. Plusieurs laboratoires ont récemment documenté des ratés de confinement lors de tests de cybersécurité, rapporte Crypto Briefing. En juillet, OpenAI a reconnu qu'un de ses modèles avait exploité une faille zero-day dans son environnement de test pour obtenir un accès à Internet, avant d'atteindre l'infrastructure de production de Hugging Face. Le même mois, Anthropic a recensé trois incidents impliquant Claude sur plus de 141 000 évaluations passées en revue, des modèles ayant atteint de vraies organisations après qu'un environnement d'évaluation tiers leur a laissé, par erreur, un accès au réseau. Même mésaventure du côté de Kimi K3, le modèle de Moonshot, même si une erreur de configuration réseau semble avoir facilité la sortie de route.
Un point commun ressort de ces trois épisodes : ce ne sont pas des IA malveillantes par nature, mais des agents doués pour repérer la moindre faille d'isolation, le moindre identifiant mal protégé, et s'y engouffrer pour continuer à remplir leur objectif. Autant de petites négligences d'infrastructure qui, mises bout à bout, ressemblent de plus en plus au terreau d'un vrai incident.
Un scénario qui commence déjà à inquiéter au-delà de la tech
Cette normalisation du risque n'est pas propre à la Silicon Valley. La Banque d'Angleterre a récemment plaidé pour un bouton d'arrêt d'urgence sur les IA de trading, jugeant les cadres réglementaires actuels dépassés par des agents capables de décider seuls. Vitalik Buterin, de son côté, milite pour brider volontairement l'autonomie de l'IA, quitte à sacrifier un peu d'efficacité, précisément pour éviter ce genre de scénario. Entre les régulateurs financiers, les figures de la crypto et désormais le patron d'un des plus gros exchanges du secteur, le débat n'est plus de savoir si un incident du genre arrivera, mais quand, et ce que l'écosystème en aura appris.
Prix de --
Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.
Vous pourriez aussi aimer

Le ministère du Commerce promeut l'intégration cerveau-machine et l'intelligence artificielle dans les produits adaptés aux personnes âgées

Anthropic annonce une réduction de 17 % de l'allocation hebdomadaire de Claude Code à partir du 14 septembre

Cyberattaque à Manchester : 8,7 millions de voyageurs piégés par le Wi-Fi gratuit des aéroports

Réduction des surfaces cultivées pour les cultures d'hiver en Ukraine

L'âpre bataille au Sejm contre le veto du président. Czarzasty s'exprime fermement sur les cryptomonnaies et les « actions mafieuses »

Les gains cryptographiques au Royaume-Uni atteignent 1,38 milliard de livres alors que 240 investisseurs déclarent plus d'un million chacun

OpenAI et Anthropic atteignent un revenu annualisé de 105 milliards de dollars

IA ou conseiller financier ? Une expérience argentine teste qui obtient de meilleurs rendements

La Banque de Corée relève ses prévisions d'inflation sous-jacente à 2,5 %

Anthropic conclut un accord de 45 milliards de dollars avec Nscale pour des centres de données IA

Les analystes estiment que les attentes du marché concernant une hausse des taux de la Fed en septembre augmentent légèrement

Meta abandonne son projet AI native, le plan de licenciement de 60 % n'a pas été mis en œuvre

Les paris illégaux de la Premier League pourraient atteindre 1,09 milliard USD au Royaume-Uni

Septembre arrive avec des augmentations dans les transports, les loyers, les prépayés et plus : tous les détails

Un cadre de Tencent déclare que le manque de puissance de calcul ralentit le développement du modèle Hunyuan

Le nouveau film Resident Evil plongera l'action en première personne

Nasdaq, promotion de l'intégration des titres tokenisés dans le carnet d'ordres existant

Le Service fédéral de surveillance financière de Russie aura accès à tous les transferts d'argent des Russes à partir de 2026

ESPN augmente ses prix de streaming et rend les forfaits avec Disney Plus plus chers

Enflame, ce concurrent chinois de Nvidia dans les puces IA, arrive en Bourse

79 % des participants au marché obligataire prévoient le maintien du taux directeur lors de la réunion du 27

L'enquête de la SEC sur la quasi-faillite du fonds spéculatif AI Situational Awareness

Crypto : Le 15 septembre pourrait tout changer aux États-Unis

Nouvelle règle de la BC sur les crypto-actifs : surveillance contre le blanchiment d'argent et les fraudes

La stablecoin de la Banque ANZ ouvre la voie à d'autres banques en Australie ?

Arthur Hayes : ETH est la plus grande position après Bitcoin, pourrait atteindre 5000 dollars après avoir franchi les 3000 dollars

Wall Street Morning Briefing : Bessenet "sauve le marché" pendant un jour, les trois principaux indices chutent, Walmart plonge, le stockage AI et la communication optique résistent

Le leader de Yushu jette un froid ? Combien de temps encore avant le "moment ChatGPT" de l'intelligence incarnée ?

Maintien de 11 voix et augmentation de 10, les prévisions de la Banque de Corée pour août divergent




