Jacob Coxon kimdir? Onun Anthropic-dən istefa paylaşımı 90 milyon baxış topladı

Jacob Coxon sentyabrın 8-də X-də on bir sözdən ibarət paylaşım etdi və 24 saat ərzində onun 90 milyondan çox baxış topladığını gördü. „Bu gün Anthropic-dən istefa verdim“, — deyə yazdı. „Heç bir şirkət məsuliyyətlə davranmır. Onlar birbaşa özünü təkmilləşdirən superintellektə doğru yarışır və həyatımızı qumara qoyurlar.“ İndi qorxduğunu dediyi süni intellekt sistemlərinin qurulmasına üç il kömək etmiş 27 yaşlı tədqiqatçı sənayenin qısa tarixində ən çox baxış toplayan istefa elanlarından birini etmişdi.

Həmin paylaşımın əvvəlində və sonrasında baş verənləri, eləcə də Coxonun sonradan bir sıra müsahibələrdə dediklərini, başlıqlara çıxan viral fraqmentdən ayırıb nəzərdən keçirməyə dəyər.

Coxon Anthropic və OpenAI-də əslində nə iş görürdü?

Coxon qurduğu texnologiyaya qəfil şübhə etməyə başlayan təhlükəsizlik tədqiqatçısı deyil. TIME-ın məlumatına görə, o, təxminən üç il həm OpenAI-də, həm də Anthropic-də ilkin təlim üzrə tədqiqatlar aparıb. Yəni onun işi adətən bu cür ictimai xəbərdarlıqlara səbəb olan təhlükəsizlik və uyğunlaşdırma sahəsinə deyil, qabaqcıl süni intellekt modellərinin imkanlarının yaradılması və genişləndirilməsi prosesinə yönəlmişdi. Onun gedişinin qeyri-adi diqqət çəkməsinin səbəblərindən biri də məhz bu fərqdir: qabaqcıl süni intellekt şirkətlərini ictimai xəbərdarlıqlarla tərk edən tanınmış tədqiqatçıların əksəriyyəti təhlükəsizlik qruplarında çalışır. Coxon isə indi qorxduğunu dediyi imkanların yaradılmasına kömək edib.

O, TIME-a qərarına heç bir konkret kəşfin və ya şirkətdaxili hadisənin səbəb olmadığını deyib. Bunun əvəzinə, iki ayrı qənaətə gəldiyini bildirib: „Birincisi, işlərin sürətləndiyi aydındır, ikincisi isə onlar nəzarət altında deyil.“ O, xüsusilə iyul ayında OpenAI modelinin açıq mənbəli tərtibatçı platforması Hugging Face-in müdafiəsini yarıb keçməsi hadisəsini xatırladıb və bunu ABŞ laboratoriyaları arasında koordinasiyanı həm daha təcili, həm də onun fikrincə, əvvəl göründüyündən daha mümkün edən bir neçə „xəbərdarlıq siqnalından“ biri kimi təsvir edib.

İşdən ayrılmaq üçün niyə öz paylarından imtina etdi?

Coxonun gedişi ilə bağlı bir məqam viral paylaşımın özündən daha çox məna daşıyır: Axios-un məlumatına görə, o, Anthropic-dəki payları tam olaraq onun adına keçməzdən təxminən iki ay əvvəl işdən çıxıb. Hələ vestinq müddəti tamamlanmamış kompensasiyadan imtina etmək konkret və baha başa gələn bir qərardır. Buna görə də bunu diqqət çəkmək cəhdi kimi rədd etmək təkcə ictimai bəyanatı rədd etməkdən daha çətindir: Coxonun qərarı heç bir maliyyə itkisi olmadan deyil, birbaşa maliyyə xərci ilə verilib.

Axios-a müsahibəsində Coxon şəxsən müşahidə etdikləri ilə ümumi gedişat barədə onu narahat edənləri diqqətlə fərqləndirib. O, Anthropic-in rəqiblərini geridə qoymaq üçün təhlükəsizlikdən güzəştə getdiyini şəxsən görmədiyini, lakin gələcəkdən narahat olduğunu deyib: „Yarışmaq təzyiqi altındasınızsa, bəzi məsələlərə göz yummalı“ və ya „nəzarət prosesində bəzi mərhələləri ötürməli olursunuz.“ O, əks istiqamətdə həddindən artıq reaksiyaya da etiraz edib və sənayedə bəzən „OpenAI-yə qarşı həddindən artıq paranoya, Çinə qarşı həddindən artıq paranoya“ olduğunu, bunun da imkanları yavaşlatmaq əvəzinə daha sürətlə irəli aparmağa haqq qazandırmaq üçün istifadə edilə biləcəyini qeyd edib.

Süni intellektin nə edə biləcəyinə o, əslində necə baxır?

Coxonun konkret narahatlığı özünü təkmilləşdirmə ilə bağlıdır: bu, süni intellekt sisteminin insanlardan ciddi istiqamətləndirmə almadan öz imkanlarını inkişaf etdirə bilməsi anlayışıdır. O, belə bir imkanın hazırda mövcud olmadığını açıq şəkildə bildirib. CBS News-a müsahibəsində süni intellektin „bu gün insanların istifadə etməsi üçün təhlükəsiz“ olduğunu deyib, lakin kifayət qədər inkişaf etmiş sistemin nəhayət „bizi öldürəcək qədər ağıllı“ ola biləcəyi barədə xəbərdarlıq edib. O, hazırda istifadədə olan hər hansı sistemi təsvir etmək əvəzinə, nəzarətdən çıxan süni intellektin elmi fantastikadakı təsvirləri ilə açıq müqayisə aparıb.

O, qabaqcıl sistemlərin nəhayət genişmiqyaslı haker hücumları həyata keçirə, bütün texniki sahələri demək olar ki, bir gecədə dəyişdirə, eləcə də məhdud insan nəzarəti altında real dünya resursları və təsiri əldə edə biləcəyi barədə xəbərdarlıq edib. Anthropic və OpenAI-dəki keçmiş həmkarlarının da onun yolunu tutub istefa verməli olduqlarını düşünüb-düşünmədiyi birbaşa soruşulanda Coxon „gedib şirkətləri tərk etməyin“ hər kəs üçün düzgün cavab olduğunu düşünmədiyini deyib. Bunun əvəzinə, həmin laboratoriyalarda işləməyə davam edən insanlar üçün daha vacib addımın „mövcud vəziyyəti aydın görmək“ və əslində müşahidə etdikləri barədə daha açıq danışmağı nəzərdən keçirmək olduğunu bildirib.

Anthropic-in digər əməkdaşları niyə onu açıq şəkildə dəstəklədilər?

Coxonun xəbərdarlığı yalnız onun öz hesabında qalmadı. Anthropic-in Uyğunlaşdırma Elmi üzrə rəhbəri Evan Hubinger açıq şəkildə cavab verərək, Coxonun şirkət daxilindəki tədqiqatçıların qabaqcıl süni intellektin mövcudluq üçün təhlükə yarada biləcəyinə həqiqətən inandığı barədə haqlı olduğunu bildirib. Hubinger daha da irəli gedərək, növbəti onillikdə süni intellektin bəşəriyyətin yox olmasına səbəb olma ehtimalının 10%-dən çox olduğuna şəxsən inandığını deyib, eyni zamanda hazırda istifadədə olan süni intellekt modellərinin nisbətən aşağı risk yaratdığını açıq şəkildə vurğulayıb. Onun narahatlığı da Coxonunki kimi, hazırda bazarda olan çatbotlar və alətlərlə deyil, rekursiv şəkildə özünü təkmilləşdirə bilən gələcək sistemlərlə bağlıdır.

Hubinger birbaşa qeyd edilməyə dəyər konkret etirafını da əlavə edib: „Anthropic-in əlindən gələni etdiyinə inanıram, lakin superintellekt üçün uyğunlaşdırma problemini həll edəcək planımız hələ yoxdur və bu istiqamətdə aydın şəkildə irəliləmirik.“ Şirkətin hazırkı əməkdaşı və xüsusi olaraq uyğunlaşdırma tədqiqatlarına fokuslanan vəzifədə çalışan biri, Coxonun xəbərdarlıq etmək üçün ayrıldığı eyni sistemli boşluğu açıq şəkildə etiraf edib. Bundan başqa, iyunda Google DeepMind-dan ayrılan keçmiş tədqiqatçı Alex Turner də Coxonun xəbərdarlığını açıq şəkildə dəstəkləyərək, bu mənzərəni tək bir şirkətin daxili dinamikasından kənara çıxarıb.

Ayrılışının vaxtı niyə ayrıca diqqət çəkir?

Coxonun istefası Anthropic üçün xüsusi bir məqama təsadüf etdi və bunu birbaşa qeyd etməyə dəyər. Axios-un istinad etdiyi məlumatlara görə, şirkət hazırda analitiklərin tarixdəki ən böyük IPO-lardan biri olacağını gözlədiyi, təxminən 2 trilyon dollar dəyərində qiymətləndirməni hədəfləyən IPO-ya hazırlaşır. Anthropic ictimai imicinin, eləcə də potensial investorlara təqdim etdiyi təklifin böyük hissəsini onu rəqiblərindən fərqləndirən təhlükəsizliyə fokuslanan mövqe üzərində qurub. Şirkətin prioritet elan etdiyi təhlükəsizliklə bağlı narahatlıqları əsas gətirən, geniş rezonans doğurmuş və çoxsaylı baxış toplamış istefa Anthropic ictimai bazarları bu imicin etibarlı olduğuna inandırmağa çalışdığı dövrdə baş verdi.

Bu zamanlama Coxonun motivləri barədə heç nəyi təsdiqləmir; o isə олон удаагийн müsahibələrdə үндсэн санаа зовнилоо өөрчлөхгүйгээр эдгээрт шууд бөгөөд тууштай хариулжээ. Гэхдээ түүний явсан үеэр Anthropic-ийн компанийн тухай өгүүлэмж аль хэдийн анхааралтай шалгагдаж байсныг илтгэнэ: компанийн гүйцэтгэх захирал хэдхэн хоногийн дараа салбарын хэмжээнд хиймэл оюун ухааны хөгжлийг удаашруулахыг уриалсан тусдаа эсээ нийтэлсэн бөгөөд гадаадын зарим тайлбарлагчид үүнийг ижил IPO бэлтгэлтэй давхацсан цаг хугацааны үүднээс шүүмжилсэн юм.

Дүгнэлт

Jacob Coxon-un istefa paylaşımı bir gün ərzində 90 milyondan çox baxış topladı, lakin həmin viral anın təfərrüatları onun yayılmasına səbəb olan on bir sözdən daha əhəmiyyətlidir: riskləri araşdırmaq əvəzinə qabaqcıl süni intellekt imkanlarının yaradılmasına üç il sərf etmiş tədqiqatçı vestinq müddəti tamamlanmamış paylarından imtina edərək, özünü təkmilləşdirən süni intellekt sistemlərinin hələ gerçəkləşməsə də, real təhlükə yaratdığı barədə xəbərdarlıq etmək üçün işdən ayrıldı. Onun xəbərdarlığını ən azı bir hazırkı Anthropic əməkdaşı və başqa bir laboratoriyanın keçmiş tədqiqatçısı açıq şəkildə dəstəklədi. Bu xəbərdarlıq şirkətin təhlükəsizlik yönümlü imicinin 2 trilyon dollar dəyərində qiymətləndirməni hədəfləyən IPO-dan əvvəl daha ciddi araşdırıldığı bir vaxta təsadüf etdi.

FAQ

1. Jacob Coxon kimdir?
O, həm OpenAI-də, həm də Anthropic-də təxminən üç il ilkin təlim üzrə tədqiqatlar aparmış, daha sonra sentyabrın 8-də özünü təkmilləşdirən süni intellekt barədə xəbərdarlıq edərək açıq şəkildə istefa vermiş 27 yaşlı tədqiqatçıdır.

2. İstefa vermək üçün paylarından imtina etməsi niyə əhəmiyyətlidir?
Axios-un məlumatına görə, Coxon Anthropic-dəki payları tam olaraq onun adına keçməzdən təxminən iki ay əvvəl işdən çıxıb. Bu, birbaşa maliyyə itkisi deməkdir və onun gedişini sırf simvolik addım kimi yozmağı çətinləşdirir.

3. Jacob Coxon hazırkı süni intellekt sistemlərinin təhlükəli olduğuna inanır?
Xeyr. O, hazırkı süni intellektin insanların bu gün istifadə etməsi üçün təhlükəsiz olduğunu deyib. Onun narahatlığı hələ mövcud olmayan, lakin süni intellekt laboratoriyalarının fəal şəkildə yaratmağa çalışdığı, özünü təkmilləşdirən gələcək sistemlərlə bağlıdır.

4. Anthropic-də kimsə onun xəbərdarlığını açıq şəkildə dəstəkləyib?
Bəli. Anthropic-in Uyğunlaşdırma Elmi üzrə rəhbəri Evan Hubinger Coxonun haqlı olduğunu deyib və növbəti onillikdə süni intellektin bəşəriyyətin yox olmasına səbəb olma ehtimalının 10%-dən çox olduğuna şəxsən inandığını bildirib.

5. İstefa vaxtı niyə əlavə diqqət çəkir?
Coxon, reputasiyasının bir hissəsini təhlükəsizlik yönümlü imicinə borclu olan Anthropic 2 trilyon dollar dəyərində qiymətləndirməni hədəfləyən IPO-ya hazırlaşarkən şirkətdən ayrılıb. Onun xəbərdarlığı CEO Dario Amodei süni intellektin inkişafını yavaşlatmağa çağıran öz essesini dərc etməzdən az əvvəl səslənib.