Vitalik Buterin propose un mécanisme de gouvernance antagoniste pour la sécurité de l'IA

Vitalik Buterin a déclaré que la théorie de la conception des mécanismes de gouvernance antagoniste pourrait jouer un rôle important dans la sécurité de l'IA. L'IA et la gouvernance traditionnelle sont confrontées à des problèmes similaires : les agents moins capables doivent obtenir des résultats idéaux de la part d'agents plus puissants. Dans la gouvernance traditionnelle, les agents sont des algorithmes statiques et les agents sont des humains ; tandis que dans la sécurité de l'IA, les agents sont des humains et des LLM moins puissants, et les agents sont des LLM plus puissants. Limiter le degré de collusion entre les agents peut améliorer les résultats du système, et cette conclusion s'applique également à la sécurité de l'IA. Les futures contraintes sur l'IA pourraient ressembler davantage à l'établissement d'un système institutionnel comprenant des règles, des permissions, des arbitrages et des mécanismes d'enregistrement, plutôt que de simplement établir des "salles de sable" techniques.