IA və insanlığın yox olması: 2 trilyon dollar təhlükəsi?

Şüursuz elm yalnız ruhun məhvinə səbəb olur. Rabelais bunu beş əsr əvvəl sübut etməmişdi, süni intellektin ortaya çıxmasından əvvəl. Sam Altman, Geoffrey Hinton, Barack Obama, BMT və hətta Vitalik Buterin eyni təhlükədən, yəni insan nəzarətindən qaçan bir süni intellektdən narahatdırlar. Lakin məsələyə daha dərindən baxdıqda, heç kim eyni şeyi danışmır. Biri insan növünün yox olmasından qorxur. Digəri milyonlarla iş yerinin itirilməsini, üç amerikalı şirkətdə gücün cəmləşməsini düşünür. Yaxud sadəcə qonşusunun, yəni Çin'in, çox irəlidə olmasından narahatdır. Eyni söz, xəbərdarlıq, üç fərqli məntiqi əhatə edir ki, bunların arasında demək olar ki, heç bir şey ortaq deyil, yalnız istifadə etdikləri lüğət.
Məqalənin əsas məqamları:

• Bir çox tanınmış şəxs, o cümlədən Sam Altman və Geoffrey Hinton, insan nəzarətindən qaçan süni intellektin mümkünlüyü ilə bağlı narahatlıqlarını ifadə ediblər.
• Davam edən mübahisə, süni intellekt səbəbindən insan növünün yox olmasından qorxanlarla, iş və alqoritmik qərəzlər üzərindəki dərhal təsirlərdən narahat olanlar arasında gedir.

Yox olma və ya işlərin itirilməsi: süni intellekt eyni səbəblərdən qorxulu deyil

Mart 2023-də, Center for AI Safety, Kaliforniya tədqiqat institutu, 350-dən çox rəhbər və tədqiqatçının imzaladığı bir cümlə təqdim edir. Bu cümlə süni intellektlə bağlı yox olma riskinin qlobal prioritet olduğunu vurğulayır. Pandemiyalar və nüvə müharibəsi ilə eyni səviyyədə.

İmzalar arasında Sam Altman, Demis Hassabis və Dario Amodei var. Bu üç rəhbər, müvafiq olaraq OpenAI, Google DeepMind və Anthropic-in ən irəlidə olan laboratoriyalarını idarə edirlər. Geoffrey Hinton və Yoshua Bengio, dərin öyrənmənin əsaslarını qoyanlar, 20 il əvvəl də imzalayırlar.

İki il yarım sonra. Oktyabr 2025-də, Future of Life Institute öz Superintelligence haqqında Bəyannaməsi ilə daha irəliləyir. Və burada, yenidən, 800-dən çox imza, o cümlədən Steve Wozniak, Richard Branson və şahzadə Harry-nin imzaları var. Onlar, elmi konsensus və ictimai qəbul təmin edilmədiyi müddətcə superintellektin inkişafının qadağan edilməsini tələb edirlər. Bengio hələ də bu işdədir.

Bu iki mətnin yanında, başqa bir tədqiqatçı qrupu illərdir tamamilə fərqli bir sahədə çalışır. Bu, işə qəbul və proqnoz ədalətində alqoritmik qərəzlərdir. Bu, həmçinin tam peşələrin qeyri-sabitləşməsi və dünya hesablama gücünün cəmləşdiyi bir neçə amerikalı şirkətdir. Bu qrup, tez-tez süni intellekt etikası adı altında birləşir, insan yox olmasından danışmaq, artıq ölçülə bilən zərərləri, bu gün konkret işçiləri təsir edən zərərləri, 50 ildən sonra abstrakt bir insanlığı deyil, diqqətdən yayındırır. Hər iki tərəf risk sözünü istifadə edir, lakin eyni riskdən danışmırlar.

Altman və Musk: yanğınsöndürən piromana

İmzalanan yaxşı ruhlarımızı yenidən götürək. Sam Altman, 2023-cü ilin mayında Center for AI Safety-nin mətnini imzalayır. Eyni ildə, OpenAI Microsoft-dan 10 milyard dollar toplayır və bazardakı ən güclü model üçün yarışa başlayır.

2026-cı ildə, şirkət, hesablama gücünün yarışını dayandırmadan, IPO üçün müraciət edir. Lakin, məhz bu məqaləni yazdığımız zaman, bu il geri çəkiləcəyini elan edir. İnsan növünün yox olmasından xəbərdar olmaq və növbəti maliyyə toplama yarışına qoşulmaq bu qeyri-müəyyənliyi yaradır.

Elon Musk geri qalmır. 2023-cü ilin martında o, Gələcək Həyat İnstitutunun məktubunu da imzalayır. Bu məktub ən güclü modellərin təliminə altı aylıq fasilə tələb edir. Dörd ay sonra, xAI yaranır. Grok, onun modeli, bu gün indiyə qədər yığılmış ən böyük hesablama klasterlərindən birində işləyir. Fasiləni isə heç kim tətbiq etməyib.

Anthropic-də Dario Amodei müntəzəm olaraq, rəqəmlərlə dəstəklənmiş mətnlər dərc edir. O, burada sərhəd modelinin yaradıcılarının nəzarətindən çıxa biləcəyi ssenariləri ətraflı izah edir. Eyni zamanda, Anthropic, IPO üçün rekord qiymətləndirmə hədəfləyir. Və şirkət, öz modellərinin hərbi istifadəsi ilə bağlı Pentaqonla çox müzakirə olunan bir mübarizəni qazanıb.

Demək olar ki, bunu Manhattan Layihəsinin bir yenidən çəkilişi kimi görmək istərdik. Bombanı quran fiziklər də ilk olanlar idi. Hiroşima və Naqasaki xəritədən silindikdən sonra, onlar təhvil verdikləri silahın beynəlxalq nəzarətini tələb edirlər. Müqayisənin sərhədləri var. Oppenheimer heç vaxt plutonium üçün royalti payı müzakirə etməyib. Süni İntellektin üç rəhbəri hər rüb kapital toplama maşınını işə salarkən xəbərdarlıq edirlər.

Biz Sərhədi Gecikdirməliyik: Süni İntellekt sənayesinin niyə yavaşlamalı olduğunu izah edən yeni bir esse yazdım, bunu həyata keçirmək üçün üç hissəli planla.

Anthropic bu addımlardan birincisinə bir tərəfdən öhdəlik götürür. Biz üçüncü tərəf qiymətləndiricilərinə sistemlərimizə işçilərimizlə eyni səviyyədə daimi giriş imkanı verəcəyik... --- Dario Amodei (@DarioAmodei) 12 sentyabr 2026 << Biz sərhədi gecikdirməliyik: Süni İntellekt sənayesinin niyə yavaşlamalı olduğunu izah edən yeni bir esse yazdım, və bunu həyata keçirmək üçün üç hissəli plan təqdim edirəm. Anthropic bu addımlardan birincisini həyata keçirmək öhdəliyini götürür. Biz üçüncü tərəf qiymətləndiricilərə sistemlərimizə işçilərimizlə eyni səviyyədə daimi giriş imkanı verəcəyik. Onlar təhlükəsizlik tədbirlərimizin yerinə yetirilməsini yoxlaya, hadisələri bildirmək və modellərin təlimi zamanı uyğunluğunu qiymətləndirmək imkanı əldə edəcəklər. >>

Dario Amodei

Obama, Trump, Pekin: Süni İntellektin Təhlükəsizlik Çərçivəsindəki Yarışı

Bu sonsuz yarışda siyasət də işə qarışır. Barack Obama amerikalı demokratları süni intellektlə bağlı aydın bir plan hazırlamağa çağırır. O, həmçinin, New York Times-a görə, modellərin tətbiq sürətinə qarşı bir növ ehtiyatlı olmağa çağırır. Bu çıxış, Trump administrasiyası tam əks istiqamətdə irəlilədiyi bir zamanda baş verir. Bir prezident fərmanı hər bir ABŞ dövlətinin süni intellektlə bağlı öz tərəfdən qanunvericilik etməsini qadağan etməyə yönəlib, tək bir daha icazə verən federal çərçivə adı altında. Trump-ın əvvəlki fərmanı artıq təhlükəsizlik və innovasiyanı birləşdirməyi vəd edirdi. Faktiki olaraq, göstərici açıq şəkildə ikinci seçimə meyl edir.

Çin tərəfdən, rəsmi nitq Obama və Gələcək Həyat İnstitutunun eyni lüğətini istifadə edir. 2026-cı ildə Şanxayda keçirilən dünya süni intellekt sammitində Pekin sektorda qlobal koordinasiyalı idarəetmə lehinə bir bəyanat imzalayır. Eyni zamanda, bir Çin şirkəti Anthropic-in modellərini ələ keçirməkdə ittiham olunur ki, bu da Vaşinqtondan reaksiya doğurur. Görünən əməkdaşlıq və real texnoloji yarış iki ayrı dəmirdə irəliləyir.

Avropa İttifaqı əks istiqaməti seçib, AI Act ilə qanunla məcbur edir, 2024-cü ildən mərhələli şəkildə tətbiq olunur. Brüssel, ən güclü modellərə və məlumat mərkəzlərinə sahib olmadığı bir bazarı tənzimləyir. Vaşinqton və Pekin süni intellekti maliyyələşdirir. Avropa isə onu şərh edir.

Güzgü, gözəl güzgü, ən gözəl süni intellekt kimdir?

2026-cı ilin iyulunda Federal Rabitə Komissiyası (FCC) Reflect Orbital-a icazə verir. Bu ABŞ startapı aşağı orbitdə nəhəng bir güzgü sınaqdan keçirəcək. Güzgü, gecə günəş işığını Yer üzündə dəqiq bir nöqtəyə yönləndirmək qabiliyyətinə malikdir. Açıq məqsəd, günəş işığını tələbə uyğun olaraq kənd təsərrüfatı istehsalçılarına və iş günlərini uzatmaq istəyən tikinti sahələrinə satmaqdır. Astronomlar, biologlar və bir neçə gecə səmasının qorunması ilə bağlı assosiasiyalar aylar ərzində xəbərdarlıq edirlər. Onlar geniş miqyasda yayılmanın yaratacağı işıq çirkliliyindən narahatdırlar. Həmçinin, vəhşi təbiətin yuxu dövrlərinin pozulması və istifadəsiz hala gələcək observatoriyaların görüntüləri ilə bağlı narahatlıqlarını bildirirlər. CBC, dosyadakı hüquqi kölgə sahələrini sənədləşdirib. Heç bir beynəlxalq qanun, bir ölkənin gecəsini kosmosdan dəyişdirmək hüququna sahib olanı həqiqətən tənzimləmir. FCC buna baxmayaraq layihəni təsdiqləyib.

Görünüşdə dil modeli ilə heç bir əlaqəsi yoxdur. Ancaq eyni mexanizm hər iki tərəfdə işləyir. Bir elmi icma xəbərdarlıq edir, sənədləşdirir, riskləri hesablamağa çalışır. Son qərarı verən bir tənzimləyici tərəfindən dəstəklənən bir özəl qurum, texniki imkanları və maliyyələşdirməsi olduğu üçün irəliləyir. Xəbərdarlıq heç vaxt problem olmayıb. Problem, nə Future of Life Institute-un 800 imza verənləri, nə Center for AI Safety-nin tədqiqatçıları, nə də Barack Obama-nın, düyməyə basmağı qərar verənlərə "dayan" demək gücünün olmamasıdır.

Reflect Orbital və AI: Eyni güc mexanizmi

Burada Reflect Orbital ilə müqayisə, atom bombası ilə hər hansı bir paraleldən daha faydalı olur. Orbitalda bir güzgü və yüzlərlə milyard parametrli bir model, kağız üzərində heç bir əlaqəsi yoxdur. Ancaq eyni qərar strukturlarını paylaşırlar. Bir neçə özəl aktor, onları daha çox icazə verən bir tənzimləyici. Xəbərdarlıq mətnlərinin yığılması, heç vaxt yayım cədvəlinə təsir etmədən. FCC Reflect Orbital ilə bağlı qərar vermək üçün bir neçə ay çəkdi. Eyni mətnlər AI ilə bağlı üç ildir ki, dövr edir, heç bir laboratoriya yol xəritəsini bir addım belə yavaşlatmamışdır.

BMT bu il dərc etdiyi bir hesabatda AI-nın, əgər bu onillik ərzində məcburi nəzarət mexanizmi yaranmasa, fəlakətli zərərlərə səbəb ola biləcəyini etiraf edib. Mətnin heç bir hüquqi dəyəri yoxdur. Heç bir dövlət onu tətbiq etməyə məcbur deyil.

Reflect Orbital il sonuna qədər ilk test güzgüsünü işə salmalıdır. AI laboratoriyaları artıq 2027-ci il üçün növbəti modellərini proqramlaşdırıblar. Xəbərdarlıq mətnləri isə, onları tətbiq etməyə heç vaxt gücü olmayan insanların masalarında yığılmağa davam edəcək.