Le co-fondateur de Perplexity critique le discours sur la sécurité de l'IA

Andy Konwinski, co-fondateur de Perplexity AI et de Databricks, soutient que le discours sur la sécurité de l'IA est détourné pour centraliser le pouvoir plutôt que de prévenir les dommages. Dans un essai récent, il met en lumière une décision controversée d'Anthropic concernant son modèle d'IA Claude Fable 5, qui incluait initialement une clause pour dégrader les réponses des utilisateurs soupçonnés de former des IA concurrentes. Cette décision a été rapidement annulée après des réactions négatives, mais Konwinski affirme que le problème central est l'assumption du pouvoir décisionnel par des entreprises comme Anthropic. Son essai fait suite à une réunion qu'il a organisée à l'Exploratorium de San Francisco, à laquelle ont assisté environ 100 chercheurs, où des préoccupations concernant la concentration de pouvoir dans l'IA ont été discutées. Jennifer Chayes de l'UC Berkeley a noté que les chercheurs s'appuient sur des modèles chinois en raison du manque d'un modèle ouvert occidental, critiquant le message de sécurité d'OpenAI et d'Anthropic comme une campagne de peur. Konwinski plaide pour un commun de recherche qui permet l'accès à des calculs à grande échelle sans restrictions corporatives. En réponse, Yann LeCun, ancien scientifique en chef chez Meta, a fait écho aux préoccupations de Konwinski, comparant la situation à la censure historique de l'Empire ottoman. Il prédit qu'à mesure que l'IA devient une infrastructure fondamentale, elle sera inévitablement marchandisée, la valeur future résidant dans le développement d'applications.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.