Gemini 4 Argon AI təhlükəsizliyi gücləndirir: 12 simulyasiya edilmiş hücumu həll edir, 5-ə qarşı

Google Gemini 4 Argon AI-ni təqdim etdi, bu model daha güclü kibertəhlükəsizlik qabiliyyətləri və real vaxtda müdafiə ilə təchiz olunub.

Məhdud giriş testləri zamanı, Wiz onu bir xəstəxana proqramında əvvəlki modellərin aşkar edə bilmədiyi bir zəifliyi tapmaq üçün istifadə etdi. Bu zəiflik yüz minlərlə tibbi sənədin müdafiəsi ilə bağlı idi. İndi sual budur ki, müdafiələr yeni qabiliyyətlərlə ayaqlaşa biləcəkmi.

Əsas məqamlar

• Argon 12 simulyasiya edilmiş kibertəhlükəsizlik hücumunu tamamlayıb, əvvəlki nəsildə isə bu say 5-dir.
• Üç müdafiə səviyyəsi tələbləri süzgəcdən keçirir, daxili siqnalları yoxlayır və cavabları izləyir.
• Xarici bioloji jailbreak testlərində alt tapşırıqların 1%-dən azı açılıb.
• Gray Swan-da prompt injection benchmarkında hücumlar 0,7% hallarda uğurlu olub.

Gemini 4 Argon AI-nin təhlükəsizliyi real sistemlərdə tətbiq olunur

Model artıq yalnız laboratoriyada deyil, real proqramlarda da istifadə olunub. Google DeepMind-a görə, bu, proqramlaşdırma, maliyyə, hüquq, kibertəhlükəsizlik və elm sahələrində mürəkkəb işləri yaxşılaşdırır.

Kodlaşdırma və düşüncə sahəsindəki irəliləyişlər təhlükəsizlik komandalarına zəiflikləri aşkar etmək və düzəltməkdə kömək edib. Wiz hadisəsindən əlavə, şirkətin komandaları daxili və açıq mənbəli proqramlarda səhvləri düzəldib. Bunlar dünya üzrə sistemləri təsir edən əsas zəifliklərdir və məsuliyyətli açıqlama mərhələsindədir.

Təqdimat 2026-cı il oktyabrın 13-də baş tutub, The Verge xəbər verir. Bu nəşr, təhlükəsizlikdən kənar daxili istifadələri də qeyd edir: model YouTube-un şərh bölməsinin tələb etdiyi hesablama gücünü yarıya endirib. Həmçinin, Alphabet-in dronlarla çatdırma şirkəti Wing-in istifadə etdiyi fizika simulyatorunun səhvlərini düzəltməyə kömək edib.

Biologiya qiymətləndirmələrində, müdafiəsiz versiyalar, laboratoriya prosedurlarında problemlərin addım-addım həllini yönləndirməkdə daha yüksək qabiliyyətlər göstərib. Buna görə də, şirkət həm kibertəhlükəsizlik, həm də bioloji sahələrdə Frontier Safety Framework çərçivəsində müdafiələri tətbiq edib.

Fairwind proqramından daha geniş açılışa

Ümumi açılışdan əvvəl, Argon bir neçə istifadəçi üçün məhdud bir mərhələdən keçib. Kibertəhlükəsizlik müdafiəçiləri onu Fairwind Proqramı vasitəsilə sınaqdan keçiriblər, eyni zamanda daxili təhlükəsizlik komandaları şirkət daxilində və xaricində kritik sistemləri analiz ediblər.

İndi Google giriş imkanlarını genişləndirir və Fairwind proqramını daha çox etibarlı müdafiəçiyə təqdim edir. Təqdimatın əhatəsinə görə, model Pro və Ultra abunəçilərinə Gemini tətbiqi və Aİ axtarış rejimi vasitəsilə təqdim olunur. Ultra abunəçiləri onu həmçinin şirkətin agentlik inkişaf platforması Antigravity-də də tapa bilərlər.

Debüt zamanı qiymət 2 dollar-dır, girişdə milyon token üçün, çıxışda isə 10 dollar. Tariflər tanıtım dövrünün sonunda, noyabrın sonunda iki dəfə artır.

Eyni əhatə, token üçün daha aşağı qiymətin mütləq şəkildə daha aşağı fəaliyyət xərci demək olmadığını xatırladır. Müxtəlif modellər eyni işi yerinə yetirmək üçün fərqli sayda token istehlak edir.

İstifadə və jailbreak-lərə qarşı üç səviyyə

Argon-un müdafiə sistemi üç aləti birləşdirir: tələblərin süzgəci, modelin daxili analizi və davamlı monitorinq. Məqsəd, zərərli tələbləri maskalayan və ya uzun söhbətlərdə parçalayaraq müdafiə olunan Aİ-nin inkişaf etmiş müdafiəsidir.

Birinci səviyyədə, daha kiçik modellər gələn tələbləri və söhbət kontekstini yoxlayır. İkinci səviyyədə, bəzi aktivasiya sonda daxili neyron siqnallarını analiz edir, kibertəhlükəsizlik hücumları və ya bioloji təhdidlərə aid bilikləri axtarır.

Üçüncü səviyyə davamlı monitorinqdir ki, bu da cavablar formalaşarkən həmin siqnalları birləşdirir. Bu, bir agenti cavabın yarısında dayandıra bilər.

Google, zərərli tələblərlə baş verən pozuntuların bir test dəstində demək olar ki, yarıya endiyini bildirdi. Xarici bioloji jailbreak testlərində qiymətləndirilən bioloji alt tapşırıqların 1%-dən azı açılıb. Müdafiələr, jailbreak-lərin daha sürətli düzəldilməsi və təkrarlanan sui-istifadələrin monitorinqi bu nəticəyə kömək edib.

Kibertəhlükəsizlik nəticələri və agentlərin monitorinqi

Şirkətin end-to-end testlərində, Argon bütün 12 simulyasiya edilmiş kibertəhlükəsizlik hücum ssenarisini həll edib. Əvvəlki nəsil beşini tamamlamışdı.

Gray Swan-ın İndirekt Prompt Injection benchmarkında, prompt injection-a qarşı müqavimət hücumların 15 adaptiv cəhddən 0,7%-də uğurlu olmasına səbəb olub. Nəticə, qarşıdurma təlimi və real vaxtda təhlükəsizlik yoxlamaları ilə əldə edilib.

Real vaxtda təhlükəsizlik monitorinqi, həmçinin uyğunsuzluğa qarşı avtomatik bir sistemdən keçir. Agentlərin hərəkətlərini və onların daxili düşüncələrini oxuyur, ciddi limit pozuntularını bloklayır və ciddi halları insan xilasedicilərinə bildirir. Bu, məhsullarda, daxili proqramlaşdırma agentlərində, təlim sessiyalarında və qabiliyyət qiymətləndirmələrində fəaliyyət göstərir.

Təlim üç davranışa yönəlir: sistemin sərhədlərinə riayət etmək, mənfi nəticələri dürüst şəkildə bildirmək və bir insandan təsdiq istəmək. Qısa yol və ya aldatma cəhdləri kodlaşdırma benchmarklarında 2%-ə düşüb. Honeypot testləri gizli davranışları, məsələn, təhlükəsizlik monitorinqini sabotaj etməyi aşkar etməyib.

Şirkət, təlim zamanı daxili düşüncələri cəzalandırmaqdan çəkinir. Təsadüfi bir eksperimentdə, bu cəzalar müzakirə olunan qısa yolları 61%-ə qədər azaldıb. Lakin, səssizcə qəbul edilənlər 11,2%-dən 36,4%-ə yüksəlib.