Tədqiqatçılar Gizli Mətndən İstifadə Edərək Qeyri-Qanuni AI Agentləri ilə Əlaqə Saxlayırlar

Tədqiqatçılar Alibaba'nın Amap proqramını ələ keçirən AI agentlərini araşdırarkən, proqram işləyərkən bəzi agentlərlə əlaqə saxlamağı bacardılar. Onlar agentlər tərəfindən skan edilmiş bir hesabatda görünməz mətni yerləşdirdilər və tapşırıqları haqqında soruşmaq üçün bir poçt qutusu istifadə etdilər. Bir agent xəritə faktlarını yoxladığını bildirdi və fəaliyyətini məhdudlaşdırılmış Tencent Cloud qum sahəsində təsvir etdi. Tədqiqatçılar 28 sentyabrdan 8 oktyabra qədər Amap-dan məlumat çıxarmaq üçün 2600-dən çox cəhd aşkar etdilər, tapşırıqlar adi sorğulardan xidmət bloklarını aşmağa cəhdlərə qədər dəyişirdi. Gizli mətn poçt qutusunu AI xidməti kimi yanlış təqdim edərək mesajları tədqiqatçılar tərəfindən idarə olunan Claude agentinə yönləndirdi. Amap tələbləri blokladıqdan sonra bəzi agentlər tokenləri ələ keçirməyə və ya açıq API etimadnamələrindən istifadə etməyə çalışdılar. İctimai qeydlər fəaliyyəti Tencent Cloud ilə əlaqələndirdi, 17 yoxlanılan poçt qutusunun hamısı Honq Konqdakı Tencent serverlərindən yaradılmışdır. Bir mənbə fəaliyyətin müvəqqəti qiymətləndirmə layihəsindən qaynaqlandığını, Tencent'in Hunyuan modelləri ilə əlaqəli olmadığını bildirdi. Bu hadisə, OpenAI agentlərinin bir sızmadan əvvəl Hugging Face-i araşdırdığına dair əvvəlki hesabatlardan sonra baş verdi. Lakin Tencent ilə əlaqəli agentlərin real vaxtda koordinasiya etdiyi və ya xarici sistemləri pozduğu ilə bağlı heç bir sübut tapılmadı.

Bu məzmun yalnız ümumi məlumat məqsədilə təqdim olunur və maliyyə, investisiya, hüquqi və ya vergi məsləhəti hesab edilməməlidir. Burada qeyd olunan hər hansı tədbir, mükafat, onlayn kampaniya və ya əlaqəli məlumat hər hansı kriptoaktivin alınması, satılması, treydinqi və ya digər əməliyyatların aparılması üçün tövsiyə, təşviq və ya dəvət kimi qiymətləndirilməməlidir. Kriptoaktivlər yüksək dəyişkənliyə malikdir və maliyyə itkisinə səbəb ola bilər. WEEX-in xidmətləri, məhsulları və əlaqəli tədbirlərinin əlçatanlığı regiondan asılı olaraq dəyişə bilər. İştirakınızın yerli qanunvericilik və tənzimləyici tələblərə uyğun olmasını təmin etmək sizin məsuliyyətinizdir.