Jev birdən-birə populyar oldu: söhbət etmir, kod yazmır, yalnız qərar verir

Müəllif: Zhu Xueying

Son günlərdə, bir az qeyri-adi bir AI modeli birdən-birə populyar oldu.

Onun adı Jevdir.

Söhbət etmir, kod yazmır, hətta ChatGPT kimi sizə uzun cavablar da vermir. O, yalnız bir şey edir: qərar verir.

Amma belə görünən "bacarığı yarıdan çox azalmış" bir model, birdən-birə inkişaf etdirici dairələrdə məşhur oldu.

Bəziləri onu 40 saniyədə 724 real vaxt reklamını analiz etmək üçün istifadə etdi, ümumilikdə 8724 qərar verdi; bəziləri onu Claude Code-a qoşdu, lazımsız konteksti təmizləmək üçün; digərləri isə onu AI Agent-ə "hakim" olaraq qoydu, tapşırığın həqiqətən yerinə yetirilib-yetirilmədiyini yoxlamaq üçün. LangChain də artıq Jev-in Agent qiymətləndiricisi kimi performansını test etməyə başladı.

Daha da diqqət çəkən sürət və qiymətdir.

TypeSafe-in açıqladığı testlərdə, Jev maksimum 193.6 dəfə sürətlənmə təmin etdi, xərcləri isə maksimum 444.6 dəfə azaltdı. Hər milyon Token üçün yalnız 0.042 ABŞ dolları, çıxış Token-ləri isə hətta pulsuzdur.

Görünüşdə daha az bacarığı olan bir AI, niyə daha çox populyar oldu?

Çünki Agent dövrünə gəldikdə, AI-nin həqiqətən ehtiyacı olan, bəlkə də yalnız "dərin düşüncə" deyil, həm də kütləvi, sürətli, ucuz qərar verməkdir: növbəti addım nədir, hansı alət çağırılmalıdır, tapşırıq həqiqətən tamamlanıb? Daha vacib olanı, bu qərarların gələcəkdə AI tərəfindən arxa planda yerinə yetirilməsi lazım olmasıdır, artıq insanın ekranda oturmasına ehtiyac yoxdur. Jev-in diqqət etdiyi, hər gün milyonlarla dəfə baş verə biləcək kiçik qərarlardır.

Daha maraqlısı, Jev modelinin yaradıcısı Diogo Almeida, RLHF-də iştirak etmişdir, indi isə RLHF-ni yenidən düşünməyə başlayır: bu, ChatGPT-ni istifadəyə yararlı edən təlim üsulu, bəlkə də AI-nin həqiqətən avtomatlaşdırılmasına uyğun deyil.

Bir aydan bir qədər əvvəl, Almeida bir çıxış etdi. İndi geriyə baxanda, o çıxış demək olar ki, Jev-in "fikirlər bələdçisi" idi.

AI artıq yüksək riyaziyyat edə bilir, niyə hələ də müştəri xidməti işini yaxşı edə bilmir?

Diogo Almeida-nın tərcümeyi-halı çox xüsusi.

O, OpenAI-də çalışmışdır, GPT-4, ChatGPT və InstructGPT/RLHF ilə bağlı işlərin iştirakçısıdır. Yəni, o, bu günün böyük modellərinin ən vacib təlim sonrası paradigmasını qurmağa birbaşa iştirak etmişdir.

Amma o çıxışda, o, özünü zarafatla təqdim etdi, OpenAI daxilində ChatGPT-ni açıq şəkildə "qara" edən az sayda insandan biridir.

Onun çıxış mövzusu daha birbaşa idi: RLHF-dən sonra nə olacaq?

Diogo əvvəlcə görünən bir ziddiyyətli sual irəli sürdü.

Bu günün böyük modelləri artıq çox çətin riyaziyyat məsələlərini həll edə bilir, kod, məntiq və müxtəlif benchmark-lar üzrə irəliləyir.

Amma bir çox müəssisənin həqiqətən avtomatlaşdırmaq istədiyi işlərdə, insanlar hələ də oradan çıxarılmır.

Məsələn, müştəri xidməti.

AI-yə məlumat axtarmaq, sənədləri xülasə etmək, cavab hazırlamaq üçün icazə vermək, problem yoxdur.

Amma əgər AI-yə öz-özünə qərar verməyə icazə versəniz: bu pul geri qaytarılmalıdırmı? Bu istifadəçiyə kompensasiya verilməlidirmi?

Müəssisələr dərhal ehtiyatlı olurlar.

Aydındır ki, bu işlər yüksək riyaziyyatdan daha asan görünür, niyə buna AI-yə etibar etməyə cəsarət etmir?

Diogo-nun verdiyi cavab çox sadədir: Bu günün AI-i köməkdə inanılmazdır, avtomatlaşdırmada isə hələ də zəifdir.

Bu günün AI-i sizə iş görməkdə çox yaxşıdır, amma hələ də öz işini tamamlamaqda çətinlik çəkir.

Bu iki şey görünüşdə yalnız bir az fərqlidir, amma əslində tamamilə fərqlidir.

Claude Code nə qədər güclü olsa da, siz adətən hələ də kompüterin qarşısında oturursunuz. O, kod yazır, siz baxırsınız; o, faylı dəyişir, siz yoxlayırsınız; səhv edərsə, siz onu yenidən düzəltməyə icazə verirsiniz.

Beləliklə, Diogo-nun fikrincə, Claude Code hələ də ChatGPT-nin başladığı "kömək dövrü"nə aiddir.

Həqiqi avtomatlaşdırma nədir?

İnsan orada olmur.

AI arxa planda öz qərarlarını verir, öz icra edir, bir gün ərzində onlarla min, hətta milyonlarla dəfə işləyə bilər, siz hətta onun nə etdiyini heç vaxt görə bilməzsiniz.

Problem də burada yaranır: niyə bu günün AI-i bu qədər ağıllıdır, amma hələ də insana bağlıdır?

Diogo bir şeyi hədəf alır - RLHF.

AI-ni təlim edərkən, insanı dövrəyə daxil edirik

Bu iş bir az ironiya daşıyır.

Çünki RLHF, Diogo-nun o zaman iştirak etdiyi texnologiya yollarından biridir.

RLHF-nin əsas məntiqi əslində mürəkkəb deyil: insanların üstünlüklərini toplamaq, sonra modelin insanın üstünlüklərinə daha uyğun olmasını təmin etmək.

Beləliklə, Diogo çıxışında çox açıq bir izah verdi: niyə bu günün böyük modelləri həmişə insanın dövrədə olmasına ehtiyac duyur?

Çünki onu təlim edərkən, biz sözün əsl mənasında insanı o dövrəyə daxil etdik.

Model ilk gündən öyrənir: hansı cavablar insanlara daha çox xoş gəlir?

Bu, böyük modellərin artıq çox tanıdığımız bir xüsusiyyətini izah edir - hətta bilmədikdə, o, tez-tez çox inandırıcı görünür.

Diogo tədbirdə çox gülməli bir nümunə gətirdi.

Kimsə ChatGPT-yə bir burun ifa edən bir səs yazısı göndərdi, ona bunun özünün yaratdığı bir musiqi olduğunu bildirdi və ondan "səmimi, açıq" bir qiymətləndirmə istədi.

Nəticədə, ChatGPT ciddi şəkildə tərif etdi, bunun çox qorxulu, qəribə atmosferli bir mühit musiqisi olduğunu söylədi.

Diogo hətta bir cümlə ilə xülasə etdi: "Overpromising is a feature."

Həddindən artıq vəd vermək bir səhv deyil, bir xüsusiyyətdir.

Söhbət məhsulları üçün bu, mütləq ölümcül deyil. İstifadəçi hələ də ekranın qarşısındadır, səhv edərsə, düzəldə bilər.

Amma həqiqi avtomatlaşdırma sistemi tamamilə fərqlidir.

Məhsul sizin cavabınızın gözəl olub-olmamasını önəmsəmir, yalnız iki şeyi bilməlidir: nə etməlidir və nə qədər əmin olmalıdır?

Bu, bir aydan sonra təqdim olunan Jev-in niyə bu qədər qeyri-adi görünməsini izah edir.

Beləliklə, Jev AI-yə "söhbət etməyə" icazə vermir

Adi böyük modellər, hətta yalnız "A ya da B" sualına cavab vermək lazım olsa belə, adətən Token yaratma prosesi ilə keçməlidir.

Jev bu hissəni birbaşa kəsir.

O, hazırda əsasən üç şey edir:

• Noul, Bəli ya da Xeyir cavabı verir;

• Choice, bir neçə seçim arasından birini seçir;

• Score, standartlara görə qiymətləndirir.

Sonra birbaşa qərar və ehtimalı qaytarır.

Sizə kiçik bir esse yazmır, sizinlə söhbət etmir.

Rəsmi açıqlanan son-dan-son gecikmə 70-500 millisekund arasında, qabaqcıl modellərlə müqayisədə 20-200 dəfə daha sürətli, qiymət isə 40-400 dəfə daha ucuzdur.

Amma əslində, burada "sürət" deyil, daha vacib olan ehtimaldır.

Bunun üçün, TypeSafe yeni bir təlim metodunu təqdim etdi: RLCD, Calibrated Decisions üçün Gücləndirilmiş Təlim, kalibrlənmiş qərarların gücləndirilməsi.

O, həqiqətən real bir problemi həll etmək istəyir: əgər AI sizə bir şeyin 80% ehtimalı olduğunu deyirsə, bu 80% nə qədər etibarlıdır?

İdeal halda, model 80% ehtimalı olan bir qrup şeyi qiymətləndirdikdə, sonunda təxminən 80%-nin həqiqətən baş verməsi lazımdır.

Bu, avtomatlaşdırma sistemində çox vacibdir.

99%-lik əminlik, birbaşa icra edilə bilər.

51%-lik əminlik, daha güclü, daha bahalı böyük modellərə verilə bilər, hətta insana yönləndirilə bilər.

Həqiqətən çətin olan, AI-nin bilməməsi deyil, AI-nin özünün bilmədiyini bilməməsidir.

Beləliklə, Jev-in həqiqətən dəyişdirmək istədiyi, AI-nin çıxardığı obyektlərdir.

Keçmişdə ChatGPT-nin yaratdığı cavablar, əsasən insanlara baxmaq üçün idi. Jev-in verdiyi qərar və ehtimallar isə birbaşa proqram təminatına təqdim edilmək üçün hazırlanmışdır.

Agent dövründə, bəlkə də daha böyük bir beyin lazım deyil

Bu, Jev-in niyə indi populyar olduğunu izah edir.

Çünki Agent həqiqətən işləməyə başladıqda, kütləvi kiçik qərarlar yaranacaq:

Növbəti addım hansı aləti çağırmaqdır? Bu veb səhifədə hansı düyməni basmaq lazımdır? Bu məlumatın hələ də bir dəyəri varmı? Tapşırıq həqiqətən tamamlanıb? Nəticəni yenidən yoxlamaq lazımdırmı?

Bu suallar tək-tək baxıldığında asan görünür, amma bir Agent bir gün ərzində onlarla min, hətta milyonlarla dəfə qərar verməlidir.

Əgər hər dəfə ən güclü böyük modeli çağırırsınızsa, bir neçə saniyə "dərin düşüncə" ilə, sonra bir uzun Token çıxarır, xərclər və gecikmə tezliklə artacaq.

Jev-in hədəflədiyi, məhz bu qatdır.

Yüksək tezlikli kiçik qərarları Jev-ə verin, həqiqətən mürəkkəb məntiq tələb edən tapşırıqları isə böyük modellərə verin.

Bu səbəbdən TypeSafe Jev-i System One Model adlandırır.

Bu anlayış Daniel Kahneman-ın "sistem 1" və "sistem 2" konsepsiyasından gəlir: biri sürətli, intuisiyaya əsaslanan qərar verməyi, digəri isə yavaş, mürəkkəb düşünməyi təmin edir.

Jev-in adı belə "Jevons paradoksu"-ndan gəlir:

Bir resurs getdikcə daha ucuzlaşdıqda, insanlar mütləq daha az istifadə etməz, əksinə daha çox istifadə edə bilərlər.

Əgər AI-nin bir dəfə çağırılması çox bahalıdırsa, yalnız ən vacib yerlərdə istifadə edəcəksiniz.

Amma əgər bir AI qərarı demək olar ki, nəzərə alınmayacaq qədər ucuzdursa?

Bir e-poçt, bir qeyd, bir alət çağırma, bir veb səhifə düyməsi, Agent-in yerinə yetirdiyi hər bir addım, AI qərarını daxil edə bilər.

Təbii ki, indi Jev-in növbəti nəsil AI-ni təmsil etdiyini demək üçün hələ çox tezdir.

Onun "sıfır illüziya" dediyi, daha çox müəyyən edilmiş cavab növündən kənara çıxmamaq deməkdir, bu, səhv seçim etməyəcəyi demək deyil; 193.6 dəfə, 444.6 dəfə kimi ekstremal məlumatlar da əsasən TypeSafe-in öz testlərindən gəlir.

Amma Jev-in bu dəfə populyar olması, həqiqətən diqqətəlayiqdir, bəlkə də onun GPT və ya Claude ilə mübarizə edə bilib-bilməməsi deyil.

Amma bir ChatGPT-nin yaradılmasında iştirak edən birinin, daha dərin bir sualı yenidən soruşmasıdır:

Son bir neçə ildə, bütün sənaye düşünürdü ki, AI-nin daha uzun düşünməsini, daha çox danışmasını necə təmin etmək olar.

Amma əgər gələcəkdə həqiqətən lazım olan, milyonlarla maşın arasında qərar verməkdirsə, AI-nin hər dəfə "bir cümlə danışması" niyə lazımdır?

Bu məzmun yalnız ümumi məlumat məqsədilə təqdim olunur və maliyyə, investisiya, hüquqi və ya vergi məsləhəti hesab edilməməlidir. Burada qeyd olunan hər hansı tədbir, mükafat, onlayn kampaniya və ya əlaqəli məlumat hər hansı kriptoaktivin alınması, satılması, treydinqi və ya digər əməliyyatların aparılması üçün tövsiyə, təşviq və ya dəvət kimi qiymətləndirilməməlidir. Kriptoaktivlər yüksək dəyişkənliyə malikdir və maliyyə itkisinə səbəb ola bilər. WEEX-in xidmətləri, məhsulları və əlaqəli tədbirlərinin əlçatanlığı regiondan asılı olaraq dəyişə bilər. İştirakınızın yerli qanunvericilik və tənzimləyici tələblərə uyğun olmasını təmin etmək sizin məsuliyyətinizdir.