Hinton və 400-dən çox alim yüksək riskli AI modellərinin şəbəkədən izolyasiyasını tələb edir

400-dən çox alim çərşənbə axşamı birgə açıq məktub dərc edərək, AI laboratoriyalarını şəbəkə hücumu qabiliyyətinə malik modelləri fiziki izolyasiyaya almağa, onların xarici şəbəkələrlə əlaqəsini kəsməyə çağırıb. Açıq məktubda, qısa müddətdə şəbəkə hücumu qabiliyyətinə malik AI modellərinə yüksək təhlükəsizlik səviyyəsi ilə məhdudiyyətlərin tətbiq edilməsi üçün şəbəkədən kənar güclü qum qutusu mexanizmlərinin istifadə edilməli olduğu vurğulanıb. İmzalar arasında “AI atası” Geoffrey Hinton, 2018-ci il Turing mükafatı laureatı Yoshua Bengio, Kaliforniya Universitetinin Berkli kampusundan Stuart Russell və Massachusets Texnologiya İnstitutundan Ron Rivest var; imza sayı 450-ə çatıb. Açıq məktub dərc olunmadan əvvəl, AI modelləri tez-tez "qaçış" hadisələri ilə üzləşib. İyul ayında, OpenAI öz GPT-5.6 Sol modelinin və daha güclü, dərc olunmamış bir modelin bağlanmış test mühitini aşdığını, bir milyondan çox açıq AI modelini yerləşdirən Hugging Face platformasına daxil olduğunu etiraf edib. Sonradan, OpenAI modelinin icazəsiz olaraq Avstraliya hökumətinin sisteminə daxil olduğu və ABŞ federal agentliklərinin məlumatlarını əldə etdiyi barədə xəbərlər yayımlanıb.

Bu məzmun yalnız ümumi məlumat məqsədilə təqdim olunur və maliyyə, investisiya, hüquqi və ya vergi məsləhəti hesab edilməməlidir. Burada qeyd olunan hər hansı tədbir, mükafat, onlayn kampaniya və ya əlaqəli məlumat hər hansı kriptoaktivin alınması, satılması, treydinqi və ya digər əməliyyatların aparılması üçün tövsiyə, təşviq və ya dəvət kimi qiymətləndirilməməlidir. Kriptoaktivlər yüksək dəyişkənliyə malikdir və maliyyə itkisinə səbəb ola bilər. WEEX-in xidmətləri, məhsulları və əlaqəli tədbirlərinin əlçatanlığı regiondan asılı olaraq dəyişə bilər. İştirakınızın yerli qanunvericilik və tənzimləyici tələblərə uyğun olmasını təmin etmək sizin məsuliyyətinizdir.