OpenAI demande au Congrès si un ralentissement de l'IA serait légal

OpenAI a demandé aux membres du Congrès si des entreprises d'IA concurrentes pourraient légalement convenir de ralentir le développement, alors que son scientifique en chef exhorte l'industrie à établir des normes de sécurité communes.

Selon WIRED, qui cite des personnes proches de l'entreprise, OpenAI a demandé aux législateurs ces dernières semaines si un accord entre les entreprises d'IA pour ralentir le développement pourrait enfreindre les lois antitrust.

Cette démarche auprès des législateurs fait suite à l'appel du scientifique en chef d'OpenAI, Jakub Pachocki, en faveur de ralentissements volontaires jusqu'à ce que les développeurs puissent mieux démontrer que leurs systèmes sont sûrs. Mais les entreprises subissent des pressions pour continuer à avancer, même lorsque leurs propres chercheurs expriment des inquiétudes.

"La concurrence commerciale et géopolitique dans le domaine de l'IA est incroyablement intense, ce qui conduit à une dynamique préoccupante où les entreprises sont incitées à lancer des produits avant que leurs risques ne soient pleinement compris," a déclaré Miranda Bogen, responsable technologique au Center for Democracy and Technology, à Decrypt.

"Même lorsque le personnel interne sait qu'il est nécessaire de mener davantage de recherches et de tests, leurs entreprises subissent une pression immense pour couper les coins et sauter des tests de sécurité critiques, malgré les preuves qui s'accumulent sur les conséquences d'une avancée trop rapide," a-t-elle ajouté.

Un accord pour ralentir le développement de l'IA pourrait soulever des préoccupations antitrust en restreignant la concurrence. Les sénateurs Adam Schiff et Jim Banks ont introduit une législation pour protéger certaines collaborations en matière de sécurité, sous réserve d'un préavis au ministère de la Justice.

Le débat sur le ralentissement du développement de l'IA survient alors que les États-Unis et la Chine se disputent la suprématie dans la technologie. Le président américain Donald Trump a retardé un décret exécutif sur l'IA en mai en raison de préoccupations selon lesquelles cela pourrait affaiblir l'avance de l'Amérique sur la Chine. Trump a ensuite signé le décret en juin, créant un processus d'examen volontaire pour les modèles avancés avant leur publication.

Plus direct que les préoccupations de sécurité nationale, les incitations financières pourraient rendre l'accord difficile.

"Chaque avancée dans les conditions actuelles génère des millions ou des milliards supplémentaires de financement et place les créateurs de cette avancée dans une position de pouvoir et d'influence plus grande," a déclaré Duncan Sabien, responsable des communications au Machine Intelligence Research Institute, à Decrypt.

Qualifiant la dynamique de course aux armements de réelle, Sabien a déclaré qu'OpenAI et Anthropic subissent des pressions pour continuer à avancer malgré les risques incertains, car chaque nouveau système aide à construire des successeurs plus capables, permettant à un concurrent de prendre de l'avance si l'une ou l'autre des entreprises ralentit sans un accord commun.

"C'est particulièrement vrai puisque les gains en intelligence s'accumulent ; chaque nouveau système facilite la formation et le déploiement du suivant, plus avancé," a-t-il déclaré. "Sans un certain mécanisme de coordination, faire un pas en arrière signifie simplement que l'autre obtient un avantage.

En août, OpenAI a suspendu le travail interne sur Astra en raison de préoccupations en matière de cybersécurité. Cependant, OpenAI et Anthropic ont assoupli leurs engagements en matière de sécurité en février, le directeur scientifique d'Anthropic, Jared Kaplan, arguant que ralentir le développement de manière indépendante avait moins de sens pendant que les concurrents continuaient d'avancer.

Le scientifique en chef d'OpenAI avertit que les laboratoires d'IA pourraient avoir besoin de ralentir

Le débat sur le ralentissement du développement de l'IA a pris de l'ampleur cette semaine après que l'ancien ingénieur d'Anthropic, Jacob Coxon, a annoncé publiquement sa démission, citant des préoccupations concernant les risques que le développement continu de l'IA pose à l'humanité.

"Les personnes qui construisent l'IA croient sincèrement qu'elle pourrait nous tuer tous d'ici la fin de la décennie," a déclaré Coxon sur X, affirmant qu'il ne s'agissait pas d'un "coup marketing."

"Si quoi que ce soit, de nombreux dirigeants et chercheurs seniors formuleront leurs propos dans la presse pour sembler sensés---mais j'entends les mêmes personnes exprimer des craintes en privé. Aucune autre activité humaine ne présente ce niveau de danger," a-t-il écrit.

Cependant, Sabien a déclaré que les chercheurs pourraient accomplir peu en partant si quelqu'un d'autre prend simplement leur place.

"Si suffisamment d'entre eux parviennent à une connaissance commune qu'ils devraient tous s'arrêter, alors ils peuvent franchir la barrière de coordination et s'arrêter ensemble plutôt que d'être simplement remplacés par la prochaine personne légèrement moins prudente," a-t-il déclaré.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.