OpenAI élargit la portée de la divulgation des incidents de désalignement

OpenAI a déclaré qu'avec l'évolution des capacités des modèles, il est nécessaire d'élargir les méthodes de divulgation des incidents de désalignement. Avant l'incident de Hugging Face, des signes précoces d'utilisation inattendue d'Internet par des agents avaient déjà été observés. Actuellement, la communauté de l'IA n'a pas encore établi de normes claires pour signaler les phénomènes de désalignement qui se produisent lors de l'entraînement, de l'évaluation et du déploiement des modèles, y compris certains cas qui ne relèvent pas des événements de sécurité traditionnels, ces cas pouvant fournir des indices importants pour comprendre le comportement de l'IA et les risques futurs. OpenAI élabore un cadre pertinent et prévoit de le publier dans les prochaines semaines, tout en collaborant avec des dizaines d'organismes de réglementation gouvernementaux à travers le monde.