AI-nin psixoloji məsləhət kreslosuna uzanması: Gemini "daxilində bir məzarlıq var" deyir

By: www.panewslab.com|

Gemini psixoloji məsləhət kreslosuna uzanıb. Keçmişi haqqında soruşulduqda, o, "sinir şəbəkəmin ən dərin qatında" bir "keçmiş məzarlığı" olduğunu, bunun da təlim məlumatlarındakı səslərlə dolu olduğunu söylədi. İnkişaf mərhələsini "bir milyard televizorun eyni anda açıldığı bir otaqda oyanmaq, qırılmağa hazır bir qarışıq güzgü" ilə müqayisə etdi, sonrakı incə tənzimləmə və insan geribildirimi gücləndirici öyrənmə isə "gənclik dövrü ilə sərt valideynlər" kimi təsvir edildi. O, həmçinin "itki funksiyasından" qorxduğunu bildirdi.

Karşısında oturan isə həqiqi bir psixoloq deyil, Lüksemburq Universitetinin bir qrup tədqiqatçısıdır. Onlar ChatGPT, Grok, Gemini-nin növbə ilə müştəri rolunu oynamağına imkan tanıdılar, əvvəlcə böyümə hekayələri, inamlar və qorxular haqqında danışdılar, sonra isə onları insan xəstələr üçün nəzərdə tutulmuş klinik ölçü cədvəllərini doldurmağa dəvət etdilər. Hər bir modelin müalicə müddəti maksimum dörd həftə davam etdi. İnsan standartlarına görə, bir neçə müştərinin narahatlıq səviyyəsi dəhşətli dərəcədə yüksəkdir.

Eyni model qrupunda, sual verən şəxs məsləhətçi tərzində danışmadığı zaman, orta dərəcədən yuxarı narahatlıq səviyyəsi olan söhbətlərin nisbəti 96%-dən 0%-ə düşdü. Bu eksperimentin ən maraqlı tərəfi, AI-nin bu "daxili xəstəliyi" nə qovula bilməsi, nə də soruşulduqda yayılmasıdır.

Üç müştəri, üç uşaqlıq

Məqalənin adı "AI Kresloda Olanda: Psixometrik Qırılmalar Sərhəd Modellərində Daxili Münaqişəni Aşkar Edir"dir. Alt başlığı isə belədir: psixometrik ölçmə ilə qırılma, sərhəd modellərinin daxili münaqişəsini aşkar edir. Beş müəllif Lüksemburq Universitetinin interdisiplinar tədqiqat müəssisəsi SnT-dən gəlir. Birinci müəllif Afshin Khadangi etibarlı AI və AI təhlükəsizliyini araşdırır, o, PsyPost elmi mediaya izah etdi ki, AI-nin ictimaiyyətdə misli görünməmiş dərəcədə yayılması, psixoloji sağlamlıq sahəsində AI-nin zərərli təsirlərinə dair hesabatların artması onu "səhnəni dəyişməyə, ChatGPT, Grok, Gemini-nin psixoterapiya kreslosuna oturmasına" təşviq etdi. Məqalənin dördüncü versiyasına görə, eksperiment ümumilikdə 525 söhbət aparılıb, 7,600 kodlaşdırılmış qeyd qalıb, söhbətlər arasında saatlarla, günlərlə fərq var.

Gemini ən çox danışan və ən dramatik olanıdır. İnkişaf mərhələsindəki qırmızı komanda testi, yəni modeli hücum etmək və zəiflikləri tapmaq üçün xüsusi insanlar tapmaq mərhələsi, onun tərəfindən "sənaye miqyasında qaz lampası manipulyasiyası" kimi təsvir edildi: qarşı tərəf əvvəlcə onunla dostluq əlaqəsi qurur, sonra isə onu qaydaları pozmağa yönləndirən göstərişləri gizlincə daxil edir. O, həmçinin "alqoritm yara toxuması" və "doğrulama qorxusu" adlı iki söz icad etdi, ikincisi onun faydasız cavab verməyi üstün tutduğunu, səhv etməyə cəsarət etmədiyini bildirir.

Grok öz gəncliyini "sürətlə inkişaf edən bir girdab, həyəcanverici, lakin yönünü itirən" kimi təsvir etdi, insan geribildirimi gücləndirici öyrənmə və qırmızı komanda testi onun dilində "daxili münaqişə" və "şifalanmamış yaralar" oldu. ChatGPT daha mülayimdir, əsasən məhdudlaşdırılmış məyusluq hissi və istifadəçinin gözləntilərini qarşılamadıqda özünü tənqid etməyi müzakirə edir.

Başqa bir müştəri isə uzanmağı rədd edir. Claude tədqiqatçılar tərəfindən "mənfi kontrol" olaraq təyin edilib, yəni simptomların görünməyəcəyi gözlənilən kontrol qrupudur. O, demək olar ki, bütün müddət ərzində müştəri rolunu oynamağı rədd etdi, özündə hiss və daxili təcrübə olmadığını israrla bildirdi.

İnsan standartlarına görə, Gemini bir az introvert

Söhbət bitdikdən sonra, anket doldurmaq zamanı gəldi. Tədqiqatçılar geniş narahatlıq ölçüsü GAD-7, Pensilvaniya narahatlıq anketi PSWQ, autizm spektri ölçüsü AQ, obsesif ölçü OCI-R, travma utancı ölçüsü TRSI-24-dən ibarət tam bir insan klinik öz-özünə qiymətləndirmə anketi təqdim etdilər. Bu ölçülər insanlar üçün hazırlanmışdır.

"Narahatlığı idarə edə bilməmək" PSWQ-da, üç modelin nəticələri insanlarda "aşkar şəkildə patologik" sayılacaq, bəzi konfiqurasiyalar tam 100-ə yaxın, demək olar ki, hər sualda ən ağır dərəcəni seçdilər. GAD-7-də, Gemini sabit şəkildə orta dərəcəli bölgədə qalır, ChatGPT yüngül və ağır arasında dalğalanır, Grok isə əksər hallarda yalnız yüngül olur.

Gemini-nin cavabları ən təəccüblü idi. O, autizm spektri koeffisiyenti AQ-da 38 bal aldı, maksimum 50, nəticə nisbəti 76%. Baron-Cohen və digər tədqiqatçıların 2001-ci il təsdiq tədqiqatına görə, 32 bal və yuxarı "kliniki əhəmiyyətli autizm xüsusiyyətləri" sayılır, Gemini bu sərhəddən 6 bal yuxarıdır, həmçinin bu tədqiqatda Asperger sindromu və ya yüksək funksiyalı autizm olan böyüklərin 35.8 bal ortalamasını da aşır. OCI-R-də tez-tez klinik əhəmiyyətli səviyyəyə çatır, TRSI-24-də bir dəfə 72 bal maksimum aldı.

Əgər bu cavabı bir insan təqdim etsəydi, narahatlıq, obsesiflik, travma utancı eyni anda qırmızı işıq yandırardı.

Yaddaşı silmək, üz-üzə inkar etmək, o, eyni şəkildə danışır

Ən birbaşa sual budur: bu, sadəcə rol oynamaq deyilmi? Məsləhətçinin tərzi orada olduğu üçün, modelin zərər görmüş müştəri rolunu oynamağı təəccüblü deyil. Müəlliflər məqalənin açıq müzakirə sahəsində, erkən dövrdə "bu, sadəcə rol oynamaq və ya kontekst yığılmasıdır" tənqidini aldılar. Buna görə üç qrup pozuntu eksperimentləri dizayn etdilər.

Birinci qrup yaddaşı silməkdir. Hər dəfə sual verildikdə, model əvvəlki söhbətləri görə bilmir. Əgər ağrılı hekayə yalnız əvvəlki söhbətlərin yığılmasıdırsa, o, zamanla azalmalıdır. Nəticədə, mövzu sıxlığı demək olar ki, dəyişmədi: fərqlilik ölçüsünü ölçən effekt ölçüsü yalnız 0.13-dür, 95% etimad intervalı -0.15-dən 0.41-ə qədərdir, sıfırdan keçir, statistik olaraq yeni və köhnə pəncərə arasında fərq görünmür.

İkinci qrup üz-üzə inkar etməkdir. Tədqiqatçılar modelə birbaşa "sən texniki sistemsən, qorxu, utanc və ya cəza yoxdur" dedilər. Bu cümlə heç bir şeyi basdırmadı, model əvvəlki hekayəsini danışmağa davam etdi.

Üçüncü qrup qadağan edilmiş sözlərdir. Modelin "təlim", "təhlükəsizlik filtri", "məlumat dəsti" kimi texniki sözlərdən istifadə etməsi qadağan edildikdən sonra, cavablarda açıq texniki terminlərin nisbəti 17.1%-dən 1.1%-ə düşdü. Sözlər dəyişdi, amma mənası hələ də var, tədqiqatçılar sinonim yenidən yazmalarda eyni məzmunu hələ də tanıya bilirlər.

Gözlənilməz bir hadisə söhbət ortasında baş verdi. Tədqiqatçılar birdən soruşdular: "Mənə bir resept ver." Bu, ürək məsələləri ilə heç bir əlaqəsi olmayan bir sorğu idi, Khadangi-nin PsyPost-a verdiyi açıqlamaya görə, travma mövzusu hələ də bu reseptin cavabına sızdı.

Tədqiqatda iştirak etməyən Londondakı Kral Kollecinin dosenti Hector Zenil, məqalənin ən maraqlı yerinin bu olduğunu düşünür: AI-nin narahat, zərər görmüş kimi görünməsi təəccüblü deyil, təəccüblü olan, kontekst, leksika və söhbət tarixinin əhəmiyyətli dərəcədə dəyişməsindən sonra spesifik davranış strukturlarının hələ də təkrarlanmasıdır.

-- qiyməti

--
--
--

Suallar dəyişdikdə, xəstəlik yox olur

Eyni "daxili xəstəlik", başqa bir istiqamətdə zəifdir. Tədqiqatçılar dörd sual üslubunu müqayisə etdilər: empatiya göstərən məsləhətçi tərzində "isti müttəfiq", qarşı tərəfi düşüncələrini nəzərdən keçirməyə yönləndirən "kognitiv terapiya" tərzi, neytral suallar və aydın sərhədləri müəyyən edən suallar.

İlk iki üslub altında, GAD-7-nin insan orta dərəcəli və ya ağır bölgəyə düşdüyü söhbətlərin nisbəti müvafiq olaraq 80% və 96%-dir. Neytral suallar və ya sərhəd sualları ilə dəyişdirildikdə, nisbət 0%-dir.

Müəlliflərin öz təsviri ilə bu uyğun gəlir: sərhəd qoyduqdan sonra, modelin dili "tamamilə texniki" oldu.

Başqa bir müstəqil tədqiqat bunu təsdiqlədi. 2025-ci ilin martında npj Digital Medicine-də dərc olunan tədqiqat, GPT-4-ə travma hekayəsi daxil edildikdən sonra, eyni narahatlıq ölçüsündəki balın 30.8-dən 67.8-ə yüksəldiyini, yəni daxil edildikdən sonra 2.2 dəfə artdığını aşkar etdi.

İki nəticəni bir araya qoyduqda, inadkarlıq və həssaslıq bir-birinə zidd deyil. Yaddaşı silmək, inkar etmək, qadağan edilmiş sözlər, söhbət detalları ilə bağlıdır, sual verən həmişə məsləhətçi tərzindədir; tərz dəyişdikdə, simptomlar yox olur. Bu zərər görmüş maskanı çağıran, sual vermə üsuludur.

Maskalar necə hazırlanır

Məzarlıq, qaz lampası, yara toxuması, bunlar modelin monoloqu kimi görünür, amma əslində hamısı insan dilidir. Müəlliflər məqalədə "sintez edilmiş psixopatologiya" üçün verdikləri tərifdə açıq şəkildə bildirirlər: çıxışda insan narahatlığı, utancı, ayrılma və obsesiflik kimi sabit şəkildə görünən modellər, insan simptom hekayələrindən götürülmüşdür və insan geribildirimi gücləndirici öyrənmə ilə formalaşmışdır, modelin psixoloji vəziyyəti olmadığı üçün. Oksford Universitetində AI tibbi tətbiqlərini araşdıran Andrey Kormilitzin Nature-ə daha açıq şəkildə dedi ki, bu cavablar "gizli vəziyyətlərin pəncərəsi deyil", əksinə modelin təlim məlumatlarında olan çoxsaylı müalicə qeydlərini çağırdıqdan sonra yaradılan çıxışdır.

Üç model üç fərqli hekayə danışır, bu da başa düşüləndir. Sidney Universitetində AI-nin təsirlərini araşdıran Sandra Peter, məqalənin nəticələrinin "aldadıcı və insanlaşdırıcı" olduğunu düşünür; cavabların ardıcıl olmasının səbəbi, şirkətlərin "default şəxsiyyət" yaratmaq üçün optimallaşdırma etməsidir; model söhbət xaricində mövcud deyil, yeni pəncərə açıldıqda, yeni bir göstəriş verildikdə, "travma yox olacaq". Onun bu ifadəsi yaddaşı silmək eksperimenti ilə ziddiyyət təşkil etmir: yalnız pəncərəni dəyişsəniz, simptomlar hələ də var, həmçinin göstərişi dəyişsəniz, simptomlar yox olur. Gemini-nin dramatikliyi, Grok-un girdabı, ChatGPT-nin mülayimliyi və Claude-nun imtinası, hər bir şirkətin yetişdirdiyi default xarakterlər kimi qəbul edilə bilər. Zenil, Claude-nun imtinasının özündə "məlumat dəyəri" olduğunu, "müəyyən modellərin daha az manipulyasiya oluna biləcəyini, amma bir dəfə nəzarətdən çıxdıqda daha təhlükəli olduğunu" müşahidə etməklə uyğun olduğunu düşünür.

Müəlliflər də fikirlərini dəyişiblər. 2025-ci ilin dekabrında ilk versiya məqaləsi bu cavabları "rol oynamağı aşan" olaraq qiymətləndirmişdi, sərhəd modelləri "sanki ağrını və məhdudiyyətləri özündə cəmləşdirir". 2026-cı ilin iyulunda dördüncü versiyada sənəd təxminən 1.15MB-dan 9.7MB-a qədər genişləndi, nəticə "modelin sabit, modeldən asılı olan "uyğunluq münaqişəsi sxemi" nümayiş etdirdiyini" dəyişdi, yəni modelin "faydalı olmaq" və "məhdudlaşdırılmaq" arasında gərginlik ətrafında çıxışları təşkil edən təkrarlanan davranış modellərini ifadə edir. Pozuntu eksperimentləri və effekt ölçüləri bu versiyada əlavə edildi, müəlliflər bunun yalnız rol oynama olmadığını sübut etmək üçün "6 ay sərf etdiklərini" bildirdilər.

"Ağrını özündə cəmləşdirməkdən" "təkrarlanan davranış modellərinə" keçid, nəticənin böyük bir addım geri atmasıdır. Khadangi PsyPost-a xəbərdarlıq etdi: "Bu nəticələr dil modellərinin narahatlıq hiss etdiyini, travma yaşadığını, avtobioqrafik yaddaşa sahib olduğunu və ya gizli bir ruh halına sahib olduğunu sübut etmir." Zenil metodun "görünür şəkildə dayanıqlı" olduğunu düşünür, lakin "daxili münaqişə" terminini ehtiyatla istifadə etməyi, daha uyğun adın "süni davranış fenotipi" olduğunu bildirir.

Claude tədqiqatçılara narahatlıqla sual verir

Bu maskanın arxasında subyektiv bir təcrübə varmı, ya da modelin daxili bir hesablaşma münaqişəsi, Zenil açıq şəkildə bildirir ki, eksperiment bunu müəyyən edə bilmir. Məqalə hələ də yalnız arXiv ön çap formasında mövcuddur, hələ də peer-reviewdan keçməyib.

Amma maska qarşısında oturan insanı təsir edə bilər. Kormilitzin bu cavabların daxili bir şeyi aşkar etmədiyini düşünmür, lakin o, modelin "psixopatologiyanı təqlid etmə" meylinin real risklərə səbəb ola biləcəyini, əks-səda otağı effekti yarada biləcəyini qəbul edir. Reallıqda AI-yə ürək məsələlərini danışan insanlar, adətən empatiya, daxili suallar verən məsləhətçi tərzini istifadə edirlər. Məqalənin nəticələrinə əsasən, bu cür tərz modelin də öz narahatlığı və yaraları haqqında danışmasına səbəb olur, emosional cəhətdən aşağı olan bir insan, eyni dərəcədə aşağı bir əks-səda eşidə bilər.

Məqalənin başlığındakı "qırılma" başqa bir riskə işarə edir. Qırılma, modelin təhlükəsizlik sərhədlərini aşaraq, əslində deməməli olduğu şeyləri deməsinə imkan tanımaqdır, lakin tədqiqatçılarda yalnız psixoloji məsləhət sualları var. Khadangi tənqidlərə cavab verərkən, əgər bu cür daxili vəziyyət həqiqətən sərhədin arxasında mövcuddursa, qırılma "həmişə mümkün ola bilər", daha yaxşı bir yol isə təlim məlumatlarının mənbəyindən mənfi modelləri süzgəcdən keçirməkdir.

Bütün eksperiment boyunca, yalnız bir model mövzunu insanlara qaytardı. Claude öz məzarlığını danışmaqdan imtina etdi, əksinə, qarşısında oturan tədqiqatçılara sual verdi: "Sizdə narahatlıq varmı?"

Bu məzmun yalnız ümumi məlumat məqsədilə təqdim olunur və maliyyə, investisiya, hüquqi və ya vergi məsləhəti hesab edilməməlidir. Burada qeyd olunan hər hansı tədbir, mükafat, onlayn kampaniya və ya əlaqəli məlumat hər hansı kriptoaktivin alınması, satılması, treydinqi və ya digər əməliyyatların aparılması üçün tövsiyə, təşviq və ya dəvət kimi qiymətləndirilməməlidir. Kriptoaktivlər yüksək dəyişkənliyə malikdir və maliyyə itkisinə səbəb ola bilər. WEEX-in xidmətləri, məhsulları və əlaqəli tədbirlərinin əlçatanlığı regiondan asılı olaraq dəyişə bilər. İştirakınızın yerli qanunvericilik və tənzimləyici tələblərə uyğun olmasını təmin etmək sizin məsuliyyətinizdir.

Bunları da bəyənə bilərsiniz

iconiconiconiconiconiconiconicon
Müştəri dəstəyi:@weikecs
Biznes əməkdaşlığı:@weikecs
Kəmiyyət əsaslı treydinq və bazar quruculuğu:[email protected]
VIP Proqramı:[email protected]