GLM-5.3 optimallaşdırma sistemi, 3.2 dəfə artım

GLM-5.3 tərəfindən idarə olunan Infra Agent, GLM-5.3-Flash-in çıxarış sisteminin optimallaşdırılmasında iştirak edib, son nəticədə end-to-end throughput ilkin 3.2 dəfə artıb. Zhipu-nun həmtəsisçisi və baş elmi işçisi Tang Jie bildirib ki, Agent problemləri araşdırarkən çətinliklərlə qarşılaşır, throughput-un 20% azaldığını müəyyən edə bilsə də, konkret problem səviyyəsini müəyyən edə bilmir. Bu səbəbdən, Zhipu, Agent-in kod dəyişikliklərinin nəticələrini, vaxt sərfini və planın effektivliyini öz-özünə yoxlamağa kömək edən bir alət dəsti inkişaf etdirib. Bu metod vasitəsilə Agent uzun kontekst hesablama xətaları, KV ötürmə tıxanıqlığı və dekodlama kernelinin təkrarlanan hesablamaları kimi problemləri aşkar edib, bunlardan biri kernel yenidən yazıldıqdan sonra 1.71 dəfə sürətlənib. Tang Jie, mühəndislərin rolunun geribildirim dizaynına yönələcəyini, hədəfləri müəyyənləşdirmək və yüksək riskli dəyişiklikləri nəzərdən keçirməkdən məsul olacağını, Agent-in isə fərziyyələr, kod dəyişiklikləri və eksperimentlərdən məsul olacağını düşünür. Tam RSI-yə hələ də çatılmasa da, minimum dövr ilkin olaraq formalaşıb və "model optimallaşdırma sistemi, sistem modelə xidmət edir" anlayışını əks etdirir.

Bu məzmun yalnız ümumi məlumat məqsədilə təqdim olunur və maliyyə, investisiya, hüquqi və ya vergi məsləhəti hesab edilməməlidir. Burada qeyd olunan hər hansı tədbir, mükafat, onlayn kampaniya və ya əlaqəli məlumat hər hansı kriptoaktivin alınması, satılması, treydinqi və ya digər əməliyyatların aparılması üçün tövsiyə, təşviq və ya dəvət kimi qiymətləndirilməməlidir. Kriptoaktivlər yüksək dəyişkənliyə malikdir və maliyyə itkisinə səbəb ola bilər. WEEX-in xidmətləri, məhsulları və əlaqəli tədbirlərinin əlçatanlığı regiondan asılı olaraq dəyişə bilər. İştirakınızın yerli qanunvericilik və tənzimləyici tələblərə uyğun olmasını təmin etmək sizin məsuliyyətinizdir.