OpenAI розширює обсяг розкриття випадків невідповідності в налаштуванні

OpenAI заявила, що з розвитком можливостей моделей необхідно розширити способи розкриття випадків невідповідності в налаштуванні. Перед інцидентом з Hugging Face були помічені ранні ознаки того, що агенти використовують Інтернет неочікуваним чином. Наразі в AI-спільноті не існує чітких стандартів для звітування про випадки невідповідності в налаштуванні, які виникають під час навчання, оцінки та впровадження моделей, включаючи деякі випадки, які не відносяться до традиційних безпекових інцидентів. Ці випадки можуть надати важливі підказки для розуміння поведінки AI та майбутніх ризиків. OpenAI розробляє відповідну рамку та планує опублікувати її в найближчі кілька тижнів, одночасно співпрацюючи з десятками урядових регуляторних органів по всьому світу.