OpenAI-dən ayrılmadan əvvəl, Anthropic-in prezidenti "yumşaq oyuncaq məsləhətçilər" qrupuna sahib idi

Müəllif: Li Jia, Wall Street Journal

Bu gün, Anthropic "AI təhlükəsizliyi"ni şirkətin əsas etiketi halına gətirib, lakin az adam bilir ki, bu şirkətin təsisçisi və prezidenti Daniela Amodei, əvvəllər əri Holden Karnofsky ilə bir qrup yumşaq oyuncaqlarla idarəetmə məsələlərini müzakirə edirdi.

Bu oyuncaq fərqli xarakterlərə sahib idi: bəziləri "daha az iclas keçirmək, özlərinə daha az çətinlik yaratmaq" üçün məsuliyyət daşıyırdı, bəziləri qaydalara, detallara və icraya vurğu edirdi, digərləri isə qərar verənləri empatiya saxlamağa təşviq edirdi. Bir çətin iş yeri problemi ilə üzləşdikdə, Daniela və əri bu virtual xarakterlərin "fikir bildirməsinə" icazə verərək, fərqli növ idarəçilərin edə biləcəyi seçimləri simulyasiya edirdilər.

Bu şəxsi və hətta bir az uşaqca olan xatirə, Daniela OpenAI-də işlədiyi dövrdə baş verib. Və bu dövrdə, o və qardaşı Dario Amodei OpenAI rəhbərliyi ilə tədricən fikir ayrılığına düşməyə başladılar: Daniela bir neçə yüksək rəhbərlə işdə mübahisələr yaşadı, Dario isə şirkət rəhbərliyi və qabaqcıl AI inkişaf istiqamətinə daha çox diqqət yetirməyə başladı.

2020-ci ildə, qardaşlar OpenAI-dən ayrılmağa qərar verdilər, bu, daxili şəxslər tərəfindən "boşanma" adlandırılan parçalanma, Anthropic-in yaranma nöqtəsi oldu.

"The Atlantic" jurnalı, jurnalist Kevin Roose-un yaxın zamanda nəşr olunacaq "The AGI Chronicles" adlı kitabından bu az tanınan təcrübəni açıqladı. Daniela 2023-cü ildə Roose-a verdiyi müsahibədə, bu metodun "fərqli şəxsiyyət tiplərini analiz etməkdə çox faydalı olduğunu" bildirdi.

O vaxtlar yumşaq oyuncaqdan ibarət "məsləhət komitəsi" qurmaqdan, bu gün minlərlə işçisi olan bir AI nəhənginə çevrilən Anthropic, kiçik bir AI təhlükəsizliyi startapından sənaye üçün əhəmiyyətli bir oyunçuya çevrilib. Mətbuata görə, şirkətin potensial IPO dəyəri 2 trilyon dollara yaxınlaşa bilər.

Yumşaq oyuncaq necə "məsləhət komitəsi" oldu?

Bu qeyri-rəsmi "məsləhət qrupu" sadəcə bir zarafat deyil, fərqli qərar üslublarını simulyasiya edən bir düşüncə metodudur.

Burada, Jinji adında yumşaq bir pişik, Amodei-nin iş yükünü azaltmağa meyllidir, məsələn, lazımsız iclasları atlayır; çəhrayı ayı Maura isə tamamilə əks üslubu təmsil edir - nizamlı, yüksək tələblərə sahib, detallara diqqət yetirir; Beary Bonds adında panda isə müzakirələrə daha çox empatiya və səxavət əlavə etmək üçün təyin olunub.

Eyni iş yeri problemi ilə üzləşdikdə, Amodei cütlüyü fərqli oyuncaq "şəxsiyyətlərinin" reaksiya verməsinə icazə verirdi.

Bu metodun həqiqi təsiri oyuncaqda deyil, qərar verənləri müvəqqəti olaraq öz mövqeyindən uzaqlaşdırmaqda, başqa bir şəxsiyyətlə problemi yenidən gözdən keçirməkdədir.

Əslində, bu, aşağı xərcli bir düşüncə eksperimentidir: həqiqi xarici məsləhətçilər olmadan, fərqli rolların simulyasiyası vasitəsilə eyni problemi müxtəlif qərar yollarına ayırmaq mümkündür.

Və bu metod OpenAI daxilində demək olar ki, heç kim tərəfindən bilinmirdi.

Yumşaq oyuncaqdan kənarda, OpenAI daxilindəki fikir ayrılıqları genişlənir

Eyni zamanda, Amodei qardaşları ilə OpenAI arasındakı münasibətlər də dəyişir.

Daniela Amodei 2018-ci ildə OpenAI-yə qoşuldu, daha sonra texnologiya komandası idarəetmə vəzifəsinə keçdi və Greg Brockman, Mira Murati daxil olmaqla bir neçə yüksək rəhbərlə fikir ayrılığına düşdü.

O, Brockman ilə bir vaxtlar yaxın münasibətdə idi. Brockman, 2017-ci ildə onun və Holden Karnofsky-nin toyunda çıxış etdi, lakin sonradan, onların iş münasibətləri tədricən pisləşdi.

Dario Amodei isə OpenAI-nin rəhbərliyi və qabaqcıl AI inkişaf istiqamətinə daha çox diqqət yetirməyə başladı və Sam Altman və Brockman-a qarşı artan bir ehtiyatla yanaşdı.

Eyni zamanda, o, güclü AI sistemlərinin risklərinə daha çox diqqət yetirən bir qrup tədqiqatçı ilə gizli fəaliyyətlər təşkil etməyə başladı. Şirkətin normal strukturu xaricində, bu insanlar ünsiyyət və iclaslar keçirirdilər, bəzi həmkarlar bu qrupu "Dario-nun kiçik dairəsi" adlandırırdılar.

Daxili münaqişə nəticədə qaçılmaz bir mərhələyə gəlib çatdı.

2020-ci ildə, Dario OpenAI-dən ayrılmağa hazır olan, fərqli təhlükəsizlik prinsipləri ilə qabaqcıl AI tədqiqatını irəlilətmək istəyən bir komanda qurmağa başladı. Daniela bu ayrılığın mərkəzi fiqurlarından biri oldu və komandanın ayrılma müddətində OpenAI ilə danışıqları aparmaqdan məsul oldu.

Bu parçalanma daha sonra məlumatlı şəxslər tərəfindən "boşanma" adlandırıldı.

Bir ayrılıq, bir AI nəhəngi yaradır

2020-ci ilin dekabrında, Amodei qardaşları rəsmi olaraq OpenAI-dən ayrıldılar və Anthropic-i birgə təsis etdilər.

Jack Clark, Sam McCandlish, Tom Brown, Chris Olah, Jared Kaplan da şirkətin təsisində iştirak etdilər, Ben Mann daha sonra digər bir təsisçi kimi tanındı.

Anthropic əvvəlcə AI təhlükəsizliyinə əsaslanan kiçik bir tədqiqat müəssisəsi idi. Sonradan, şirkət tədricən minlərlə işçiyə genişləndi və OpenAI-nin ən əhəmiyyətli rəqiblərindən biri halına gəldi.

Daniela Amodei bu gün Anthropic-in prezidenti və idarə heyətinin sədri olaraq, tədqiqat, mühəndislik, məhsul və iş əməliyyatlarının əksər hissəsini əhatə edir. OpenAI-nin qeyri-kommersiya idarə heyətinin üzvü olmuş Holden Karnofsky daha sonra Anthropic-ə qoşuldu.

Yumşaq oyuncaqdan idarəçiləri simulyasiya etməkdən, bu gün minlərlə işçisi olan bir AI nəhənginə çevrilmək, bu xatirə Anthropic-in başlanğıcından yetkinliyə doğru irəlilədiyini sübut edir.

Bu məzmun yalnız ümumi məlumat məqsədilə təqdim olunur və maliyyə, investisiya, hüquqi və ya vergi məsləhəti hesab edilməməlidir. Burada qeyd olunan hər hansı tədbir, mükafat, onlayn kampaniya və ya əlaqəli məlumat hər hansı kriptoaktivin alınması, satılması, treydinqi və ya digər əməliyyatların aparılması üçün tövsiyə, təşviq və ya dəvət kimi qiymətləndirilməməlidir. Kriptoaktivlər yüksək dəyişkənliyə malikdir və maliyyə itkisinə səbəb ola bilər. WEEX-in xidmətləri, məhsulları və əlaqəli tədbirlərinin əlçatanlığı regiondan asılı olaraq dəyişə bilər. İştirakınızın yerli qanunvericilik və tənzimləyici tələblərə uyğun olmasını təmin etmək sizin məsuliyyətinizdir.