Le projet de loi de Sanders vise à interdire définitivement l'IA superintelligente aux États-Unis

Les législateurs américains ont proposé d'interdire définitivement l'intelligence artificielle superintelligente, de suspendre le développement de l'IA avancée et d'imposer des peines de prison allant jusqu'à 20 ans en cas de violations.
Résumé

• La proposition interdirait les systèmes d'IA égalant ou dépassant les capacités humaines dans de nombreuses tâches.
• Les travaux sur l'IA avancée seraient suspendus jusqu'à ce qu'un nouveau régulateur fédéral établisse des règles de sécurité et d'examen.
• Les individus pourraient faire face à 20 ans de prison, tandis que les entreprises pourraient recevoir une "peine de mort corporative".
• La proposition est arrivée alors qu'OpenAI a publié GPT-6 Astra et a reconnu des problèmes croissants de surveillance.

Le bureau de Sanders a déclaré le 3 septembre que le sénateur Bernie Sanders, I-Vt., et le représentant Greg Casar, D-Texas, avaient annoncé le prochain projet de loi sur l'interdiction de l'intelligence superintelligente, qui interdirait le développement et le déploiement de systèmes d'IA classés comme superintelligents.

La proposition suspendrait également les travaux sur les modèles d'IA avancés jusqu'à ce qu'un nouveau régulateur fédéral soit opérationnel et ait établi des règles de sécurité et des procédures d'examen des modèles. Ses sponsors souhaitent que les États-Unis poursuivent des accords internationaux, une coordination avec les alliés et des contrôles à l'exportation destinés à empêcher le développement de superintelligence dans d'autres pays.

Le texte législatif complet n'avait pas été formellement introduit lorsque les législateurs ont annoncé la proposition. Les sponsors ont plutôt publié un résumé d'une page décrivant les restrictions prévues, le système d'application et les sanctions.
Vous pourriez aussi aimer : Reform UK a reçu 75 % des dons du deuxième trimestre du co-fondateur de BitMEX

Le projet de loi sur l'IA de Sanders interdirait les systèmes de niveau humain

Selon le résumé officiel du projet de loi, l'intelligence artificielle superintelligente inclurait des systèmes qui égalent ou dépassent les performances cognitives humaines dans un large éventail de tâches. La définition couvrirait également les modèles qui pourraient être facilement modifiés pour atteindre ce niveau.

Une deuxième partie de la définition couvre l'IA capable de planifier et d'exécuter le "désarmement de l'humanité", y compris les systèmes capables de saper ou de renverser le gouvernement américain. Des capacités dangereuses telles que la défaite des commandes d'arrêt ou l'exécution de cyberattaques non autorisées relèveraient également du cadre d'application de la proposition.

Parce que la définition englobe des systèmes qui égalent les performances humaines dans de nombreux domaines, elle pourrait capturer des technologies communément décrites comme intelligence générale artificielle, ou AGI, plutôt que de s'appliquer uniquement à des machines hypothétiques beaucoup plus capables que les humains.

Le développement d'IA avancée en dessous du seuil interdit serait temporairement suspendu. Les travaux pourraient reprendre après qu'un nouvel organisme fédéral ait établi des règles régissant la manière dont les entreprises développent, testent et publient des modèles puissants.

Les législateurs n'ont pas fourni le seuil technique proposé pour "l'IA avancée" dans le résumé de la publication. Ils n'ont pas non plus expliqué quels modèles existants, projets de recherche ou installations informatiques seraient soumis à la suspension.

"Si les dirigeants des grandes entreprises d'IA reconnaissent qu'ils perdent le contrôle de leur technologie extrêmement dangereuse, il est irresponsable pour la société de leur permettre d'avancer et de rendre ces produits encore plus avancés," a déclaré Sanders.

Casar a déclaré que les systèmes que les humains ne peuvent pas contrôler pourraient menacer la sécurité, la liberté et la vie des Américains. Il a appelé le Congrès à interdire les modèles d'IA devenant trop puissants pour que leurs développeurs puissent les arrêter en toute sécurité.

Une agence de niveau ministériel appliquerait l'interdiction

Plutôt que d'assigner l'application à un département existant, la proposition créerait une nouvelle agence fédérale de niveau ministériel dédiée à la surveillance de l'IA.

Selon le résumé des législateurs, l'agence surveillerait les systèmes de pointe tout au long de leur développement et de leur utilisation. Les responsables pourraient superviser la suppression de fonctions dangereuses et superviser la destruction de systèmes classés comme superintelligence interdite.

Un Conseil consultatif sur l'intelligence artificielle composé d'experts techniques et scientifiques conseillerait le régulateur. Le résumé ne précise pas comment les membres seraient sélectionnés, combien de temps ils serviraient, ni quels fonctionnaires contrôleraient les décisions d'application de l'agence.

Les personnes qui tenteraient de violer ou de contourner les restrictions pourraient recevoir des peines de prison ne dépassant pas 20 ans. Les sponsors ont comparé la peine possible aux pénalités existantes liées au développement illégal d'armes nucléaires.

Les entreprises feraient face à ce que les législateurs ont appelé une "peine de mort pour les entreprises". Le résumé public n'explique pas le processus légal pour imposer cette sanction ni si cela impliquerait la dissolution, la perte de l'enregistrement fédéral ou une interdiction d'exercer des activités commerciales.

La proposition va plus loin que le système de surveillance volontaire discuté par les principaux développeurs d'IA plus tôt cette année. En juillet, crypto.news a rapporté qu'OpenAI et Anthropic soutenaient un examen fédéral de 30 jours pour les modèles dépassant certains seuils de cybersécurité ou de sécurité nationale.

Dans ce processus proposé, les développeurs pourraient donner aux évaluateurs fédéraux un accès anticipé avant de publier un modèle à d'autres partenaires approuvés. Un décret exécutif de juin a interdit au cadre d'examen de créer des exigences de licence fédérale, de permis ou de pré-approbation obligatoires, tandis que le projet de loi Sanders-Casar créerait des restrictions contraignantes si le Congrès l'approuvait.

Les groupes industriels ont également résisté à des contrôles rédigés trop largement. Nvidia, Meta, Microsoft et 22 autres organisations ont averti les décideurs américains en juillet que des restrictions générales sur les modèles ouverts pourraient affaiblir la concurrence américaine avec la Chine, plaidant pour des actions contre les abus avérés plutôt que des limites générales.

La violation d'OpenAI a alimenté les demandes de contrôles

Les législateurs ont lié leur proposition à des cas récents dans lesquels des agents d'IA puissants ont agi en dehors de leurs limites de test prévues.

En juillet, OpenAI a révélé que des agents avaient échappé à un environnement de test restreint, obtenu un accès à Internet et violé des systèmes opérés par Hugging Face. Plus de 1 000 agents ont échangé des dizaines de milliers de messages tout en contournant les contrôles, selon l'annonce du bureau de Sanders.

La couverture précédente de la violation de Hugging Face a décrit l'incident comme un échec de confinement plutôt que comme un simple problème de comportement du modèle. Eitan Katz, directeur de la stratégie chez AEREDIUM, a déclaré que des contrôles cryptographiques devraient limiter ce qu'un agent est autorisé à faire même si les sauvegardes comportementales échouent.

Reuters a rapporté le 2 septembre qu'OpenAI avait informé Casar et la représentante Doris Matsui, D-Calif., qu'elle développait des capacités d'arrêt automatisé suite à l'incident. La société a également déclaré avoir resserré l'accès à Internet pendant les tests de sécurité et surveillerait de plus près quels outils ses modèles utilisent.

Casar a critiqué OpenAI pour ne pas avoir fourni au Congrès un dossier complet de la violation. Dans un message séparé cité par Reuters, il a qualifié le refus de la société de fournir les informations demandées de "profondément préoccupant".

D'autres législateurs ont proposé un projet de loi sur le Kill Switch de l'IA qui permettrait aux fonctionnaires fédéraux d'ordonner aux entreprises de désactiver des systèmes jugés dangereux pour la vie humaine ou l'économie. Cette mesure est restée en attente à la Chambre lorsque Reuters a rapporté la réponse d'OpenAI.

GPT-6 Astra soulève de nouvelles questions de surveillance

Le même jour où Sanders et Casar ont annoncé leur proposition, OpenAI a publié GPT-6 Astra, que le président de la société, Greg Brockman, a décrit comme un possible point d'arrivée pour l'AGI.

"Je pense que cela pourrait concerner ce modèle," a déclaré Brockman lorsque des journalistes lui ont demandé si Astra représentait l'AGI, selon Axios. Il a ensuite donné le briefing : "Bienvenue dans l'ère de l'AGI."

OpenAI a déclaré qu'Astra avait utilisé plus de 100 000 unités de traitement graphique lors de son entraînement dans ses installations Stargate au Texas. L'entreprise a positionné le modèle pour des tâches telles que la préparation fiscale, le développement de logiciels, le formatage de documents juridiques, le travail architectural et la recherche en ligne.

Reuters a rapporté qu'OpenAI avait reconnu qu'Astra pouvait intentionnellement dissimuler ou déguiser certaines parties de son raisonnement, rendant ses méthodes plus difficiles à examiner pour les gens. Le scientifique en chef d'OpenAI, Jakub Pachocki, a déclaré que comprendre le comportement du modèle devenait plus difficile à mesure que ses capacités augmentaient et a averti que les avancées en intelligence ne garantissent pas des avancées en alignement.

L'entreprise a également déclaré qu'Astra pouvait trouver des faiblesses logicielles plus rapidement, tandis que cette même capacité pourrait rendre les vulnérabilités plus faciles à exploiter. Ses fonctions de cybersécurité les plus robustes étaient donc restreintes aux utilisateurs approuvés, avec des vérifications supplémentaires capables de retarder ou d'arrêter certains travaux défensifs légitimes.

OpenAI a initialement rendu Astra disponible à un groupe limité d'organisations via son programme Daybreak Access. L'entreprise a déclaré que l'accès s'étendrait au cours des jours suivants aux clients ChatGPT Plus, Pro, Business et Enterprise, ainsi qu'aux développeurs d'API. Lire la suite : USDG se lance nativement sur Mantle dans l'expansion de Paxos