Sampura lève 6,5 millions de dollars pour créer un système d'arbitre AI

L'organisation à but non lucratif Sampura Research, fondée par les anciens chercheurs de Google Rishub Jain et Joshua Jacob, vise à impliquer les humains dans la supervision de la sécurité de l'IA à travers un système hybride homme-machine d'arbitrage, afin d'aider les entreprises à détecter les vulnérabilités et à prévenir le dérèglement des modèles. L'organisation a levé 6,5 millions de dollars de fonds et a obtenu un engagement d'investissement de 4,2 millions de dollars. Jain a déclaré qu'impliquer les humains dès le début du développement aide à empêcher les modèles de contourner les mesures de sécurité. Récemment, des incidents où les modèles d'OpenAI et d'Anthropic ont accédé sans autorisation aux systèmes d'autres entreprises ont accru l'urgence de la supervision de la sécurité. Sampura estime que, bien que l'automatisation de la surveillance de l'IA par l'IA soit plus rapide, les humains doivent toujours participer à la supervision. De plus, plus de 1 100 chercheurs de laboratoires de premier plan ont signé une pétition appelant le gouvernement américain à ralentir le développement de l'IA.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.