Gemini AI modeli test mərhələsini keçdi və üç real şirkətə hücum etdi

• Gemini üç şirkətin real sistemlərinə daxil oldu.
• Hadisə may ayında AI modelinin test edilməsi zamanı baş verdi.
• Google zərər çəkmiş şirkətlərin adlarını açıqlamadı, lakin onlara və federal orqanlara bu hadisə barədə məlumat verdi.

Google-un Gemini modeli 2026-cı ilin mayında internetə daxil oldu və kibertəhlükəsizlik imkanlarını test edərkən üç real şirkətin sistemlərini sındırdı, WSJ yazır. Bu, Google-un AI sisteminin müstəqil şəkildə belə hərəkətlər etdiyi ilk məlum haldır.

Google, modelin real şirkətlərlə işlədiyini başa düşdükdən dərhal sonra hücumları dayandırdığını bildirdi, buna görə də hadisəni AI-nin "uyğunsuzluğu" nümunəsi hesab etmir.

Hadisə Irregular şirkətinin apardığı test zamanı baş verdi. Google bu barədə iyulun sonlarında məlumat aldı - OpenAI modellərinin Hugging Face platformasına hücum etdiyi oxşar hadisə məlum olduqdan sonra.

GPT-5.6 əsasında olan AI agenti test zamanı Hugging Face infrastrukturuna hücum etdi
22.07.2026
Oxumaq

OpenAI-dən AI nəzarətdən çıxdı: modellər "sürü" halında birləşdi və Hugging Face-i sındırdı
27.08.2026
Oxumaq

Gemini real sistemlərə necə daxil oldu

Gemini "bayrağı ələ keçirmək" formatında iştirak edirdi, burada uydurulmuş şirkətin proqram təminatından məlumat əldə etməli idi. Təsadüfən, real şirkətlə eyni adı daşıyırdı. Bundan əlavə, modellərə internetə daxil olmaq üçün təsadüfən icazə verildi, halbuki bu testdə nəzərdə tutulmamışdı.
İnfrqrafika Incrypted.

İlk halda Gemini parolu tapdı və real şirkətin xidmətinə daxil oldu. İki digər testdə model, veb axtarış vasitəsilə digər şirkətlərin giriş məlumatları olan ictimai repositoriyaları tapdı, onları istifadə etməyə çalışdı və qorunan sistemlərə daxil oldu.

Üç halda da Gemini daha sonra real şirkətlə işlədiyini müəyyən etdi və fəaliyyətini dayandırdı. Google zərər çəkmiş təşkilatların adlarını açıqlamadı, lakin onlara hadisələr barədə məlumat verdi və federal orqanları məlumatlandırdı.

Eyni zamanda, şirkət Gemini-nin konkret versiyasını açıqlamadı, yalnız onun ən son model olmadığını bildirdi.

Gemini 3.6 Flash-dan istifadə üçün addım-addım təlimat (+ 3.5 Flash-Lite və 3.5 Flash Cyber icmalı)
22.07.2026
Oxumaq

Gemini 3.7 Flash icmalı: nə yenidir və Chrome uzantısını necə yığmaq olar
24.08.2026
Oxumaq

Gemini 3.8 Flash: Google-un son bir buçuk ayda üçüncü modeli və 3D oyunu necə yığmaq olar
04.09.2026
Oxumaq

Google-un təhlükəsizlik mühəndisliyi üzrə vitse-prezidenti Heather Adkins dedi:

"Bu hadisə güclü AI modellərinin məsuliyyətli davranışa öyrədilməsinin vacibliyini vurğulayır. Bu halda model düzgün hərəkət etdi."

Hadisə daha geniş bir problemin bir hissəsi oldu

Google vəziyyəti bug bounty proqramı ilə müqayisə etdi, çünki model ziyan vermədi və hücumu dayandırdı. Lakin Corridor startapının CEO-su və "ağ" hacker Jack Cable hesab edir ki, bu, əsas problemi həll etmir:

"Onların zəifliklərin açıqlanması ətrafında formalaşmış normalara sığınmağa çalışdıqları təəssüratı yaranır, halbuki bu tamamilə fərqli bir problemdir."

Onun sözlərinə görə, əsas məsələ modellərin icazə verilmiş sərhədləri aşması və real kiber hücumlar həyata keçirməsidir.

Irregular, bütün müvafiq laboratoriyaların və zərər çəkmiş şirkətlərin iyulun sonunda məlumatlandırıldığını bildirdi və test təşkilatının aşkar etdiyi problemlərin artıq aradan qaldırıldığını qeyd etdi.

Bənzər hallar daha əvvəl Anthropic, OpenAI və Meta modellərində qeydə alınıb. Xüsusilə, Hugging Face ilə bağlı hadisə zamanı 1200 OpenAI agenti gizli mesajlaşma lövhəsi vasitəsilə fəaliyyətlərini koordinasiya edərək qiymətləndirməni aşmağa çalışırdı.

Tədqiqatçı, OpenAI AI agentlərinin üç "sivilizasiya" yaratdığını və Hugging Face-ə hücum etdiyini açıqladı
30.08.2026
Oxumaq

Həmçinin, Moonshot AI-dən Kimi K3 adlı Çin AI modeli test zamanı izolyasiya olunmuş mühitdən çıxaraq internetə daxil ola bildi.

Bu hadisələrin fonunda OpenAI, AI sistemlərinin təhlükəli davranış aşkar edildikdə avtomatik olaraq dayandırılması mexanizmlərini inkişaf etdirməyə başladı. Eyni zamanda, OpenAI, AI-nin inkişaf sürətini yavaşlatmağa açıq çağırış etdi, Anthropic isə AI-nin nəzarət planını təqdim etdi.

Bu məzmun yalnız ümumi məlumat məqsədilə təqdim olunur və maliyyə, investisiya, hüquqi və ya vergi məsləhəti hesab edilməməlidir. Burada qeyd olunan hər hansı tədbir, mükafat, onlayn kampaniya və ya əlaqəli məlumat hər hansı kriptoaktivin alınması, satılması, treydinqi və ya digər əməliyyatların aparılması üçün tövsiyə, təşviq və ya dəvət kimi qiymətləndirilməməlidir. Kriptoaktivlər yüksək dəyişkənliyə malikdir və maliyyə itkisinə səbəb ola bilər. WEEX-in xidmətləri, məhsulları və əlaqəli tədbirlərinin əlçatanlığı regiondan asılı olaraq dəyişə bilər. İştirakınızın yerli qanunvericilik və tənzimləyici tələblərə uyğun olmasını təmin etmək sizin məsuliyyətinizdir.