TokenMaxxing: Süni İntellekt Modellərinizdən Maksimum İstifadə Etmək

Meta işçiləri bu ilin əvvəlində 30 gün ərzində "Claudeonomics" adlanan daxili liderlik cədvəlində yer tutmaq üçün 60 trilyon AI tokenini xərclədilər. Texnologiya kolumnisti Gergely Orosz, bu xərclərin Anthropic-in siyahı qiymətləri ilə təxminən 900 milyon dollar olduğunu qiymətləndirdi, lakin Meta ehtimal ki, daha az ödəyir.

Bain & Company məsləhətçisi Jue Wang, bu israfın daha sakit bir versiyasını hər yerdə görür: "O qədər çox şirkət, o qədər çox istifadəçi, hər şey üçün Opus istifadə etməyə meyllidir, o cümlədən e-maillərin yaradılması," o, bu yay Associated Press-ə bildirdi, Anthropic-in yüksək səviyyəli modellərinə istinad edərək. Eyni şeyi edirsinizsə, MacDonald's-da dəyişikliklərinizi hesablamaq üçün Albert Eynşteyni işə götürürsünüz. Myriad: Hangi şirkət ən yaxşı AI modelinə sahib olacaq? Proqnozunuzu vermək üçün klikləyin.

ChatGPT və ya Claude-a yazdığınız hər bir söz və onun yazdığı hər bir söz tokenlərlə ölçülür, bu, orta hesabla bir sözün üçdə birini təşkil edən mətn parçalarıdır. 20 dollar abunəliyində bu ölçü, istifadə limitinizə nə qədər sürətlə çatdığınızı müəyyən edir. API-də, inkişaf etdiricilərin modelləri öz tətbiqlərinə qoşmaq üçün istifadə etdiyi token başına ödəniş, hesabı müəyyən edir.

Burada Anthropic-in hazırkı qiymət siyahısı, milyon token başına:

Haiku-nun qiyməti 100,000 token-dən aşağı olan təkliflərə aiddir; daha uzun təkliflər beş dəfə daha baha başa gəlir.

Ən yaxşı model, ən kiçikdən 100 dəfə daha baha başa gəlir, OpenAI-nin öz sıralaması da eyni yayılma ilə, milyon giriş tokeni üçün 10 dollardan 0.10 dollara qədərdir. Bu token başına qiymətlər laboratoriyalar üçün sürətlə yığılır - və sizin üçün: Anthropic-in gəlir sürətinin 2025-ci ilin sonunda təxminən 9 milyard dollardan may ayında 47 milyard dollardan çoxa yüksəldiyi halda, OpenAI qiymət müharibəsi aparır.

Bir neçə vərdiş bu xərcləri kəskin şəkildə azaldır və aşağıdakı ilk beş ipucu heç bir kodlaşdırma tələb etmir.

Tokenmaxxing nə deməkdir (və nə deməlidir)

Tokenmaxxing, Meta-nın Claudeonomics-i kimi Silikon Vadisi flexi olaraq başladı, Microsoft, Shopify və Amazon işçiləri oxşar token liderlik cədvəllərində sıralanırdılar. Nvidia-nın CEO-su Jensen Huang, mart ayında "All-In" podkastında 500,000 dollarlıq mühəndisin ən azı 250,000 dollarlıq token xərcləmədiyi halda "dərin narahat" olacağını söylədikdə bu məsələyə yanacaq tökdü.

Və onlar tokenləri... axmaqlıqla məhsuldar olmayan şeylərə xərclədilər.

Amazon-da işçilər, daxili AI alətini əlaqəsiz tapşırıqlarda işlədərək öz rəqəmlərini şişirdiklərini etiraf etdilər, ta ki, bir baş vitse-prezident işçilərə: "Xahiş edirəm, AI-ni yalnız AI istifadə etmək üçün istifadə etməyin," dedi.

Bu bələdçi mühəndislərin indi irəlilədiyi mənanı istifadə edir: hər tokenin dəyərini maksimuma çatdırmaq, xərclədiyiniz sayı deyil.

Üç konsept tokenlərin haraya getdiyini izah edir, agent döngəsi ilə başlayır. Agent, alətləri istifadə edə bilən bir modeldir, buna görə düşünür, vebdə axtarır və ya kodu işlədir, nəticəni oxuyur və bitdiyini qərara alana qədər yenidən gedir, hər dövrədə bütün söhbəti yenidən göndərir.

Orkestrasiya bu xərcləri artırır: bir model menecer kimi fəaliyyət göstərir, tələbini parçalara ayırır, onları subagent adlanan işçi modellərə verir və cavablarını bir araya gətirir. Hər işçi öz döngəsini öz yaddaşı ilə işləyir, bu səbəbdən Anthropic, Claude Code-də agent komandalarının plan rejimində işlədikdə standart sessiyadan təxminən yeddi dəfə daha çox token istifadə edə biləcəyini bildirir, bu, aşağıdakı ara ipuçlarında əhatə olunur.

Qrafiklər, inkişaf etdiricilərin bu döngələrin yoldan çıxmasını necə qarşısını alır. LangGraph kimi çərçivələr, iş axınını metro xəritəsi kimi çəkməyə imkan verir, stansiyalar (düğmələr) işi görür və yollar (kənarlar) növbəti hara gedəcəyini müəyyən edir, beləliklə model fikirləri və ya büdcəsi tükənənə qədər dövr etmədən sabit bir marşrut izləyir.

Başqa sözlə, döngələr sizə işləri avtomatlaşdırmağa və keyfiyyəti artırmağa kömək edir, lakin siz də çox pul xərcləyəcəksiniz, buna görə də səmərəli olmaq son dərəcə vacibdir. Budur, sizə kömək edə biləcək bəzi ipuçları.

Başlanğıc: kiçik işlər, kiçik modellər

1. İş üçün modeli seçin

Əgər siz yeni başlayırsınızsa, ehtimal ki, AI-nizi işlətmək üçün qrafik istifadəçi interfeysindən istifadə edirsiniz.

Çat tətbiqinizdə model adını (ChatGPT-də çatın üstündə, Claude və ya Hermes-də göndərmə düyməsinin yanında) klikləyin və e-poçtlar, xülasələr və yenidən sözləşdirmələr üçün daha kiçik, daha sürətli bir seçimə keçin. Çətin düşüncə və qərarlar üçün, incə bir səhv real pul xərcləyirsə, ən yaxşı modeli saxlayın.

Keçən həftənin beş tapşırığını hər iki modeldə yan-yana işlədin və əgər kiçik model keçərsə, onu saxlayın. İstifadə limitinizi artıran bir abunə ilə, API-də hesabı 99%-ə qədər azaldır.

2. Beş pis əvəzinə bir yaxşı təklif yazın

"Xeyr, sadəcə cəmi" və ya "bunu daha yaxşı və dəqiq edin" kimi üç dövr, hər dəfə bütün çatın yenidən göndərilməsinə səbəb olur. Bir aydın təklif işi və cavabın dəqiq formasını açıqlayır. Belə bir şey işləyə bilər:

Aşağıdakı mətndən faktura nömrəsini, tarixi, satıcıyı və cəmi çıxarın. Hər bir dəyəri olduğu kimi saxlayın. Hər bir sahə üçün bir sətir qaytarın və əgər bir sahə yoxdursa, "itkin" yazın.

OpenAI-nin öz testləri, daha yüngül, daha aydın təkliflərin daha yüksək bal topladığını və daha az token istifadə etdiyini aşkar etdi.

3. Mövzunu dəyişəndə yeni bir çat başlayın

Model hər dəfə göndər düyməsini basdığınızda bütün söhbəti yenidən oxuyur, buna görə də, tətiliniz haqqında 50 mesajlıq bir iplik, vergi sualınızı eyni anda daha bahalı və daha axmaq edir.

Anthropic bu çürüməni "kontekst çürüməsi" adlandırır.

Beləliklə, Allahın xeyirinə, mövzu dəyişdikdə yeni bir çat başlayın.

4. Ehtiyacınız olan ölçünü soruşun

Çıxış tokenləri, Anthropic və OpenAI-nin ən yaxşı modellərində girişdən beş dəfə daha bahalıdır. Təkliflərinizi "üç maddə, 100 sözün altında" və ya "yalnız dəyişdirilmiş xətləri" ilə bitirin, modelin əlavə yerə ehtiyacı olmayacaq.

Modelin çıxış uzunluğu baxımından bir məhdudiyyəti varsa, tokenləri saxlayacaq, xüsusən də tapşırıq yaradıcıdırsa (məsələn, yazma və ya araşdırma) və deterministik deyilsə (məsələn, kod yazma və ya riyaziyyat həll etmə).

5. Ödəniş etməzdən əvvəl pulsuz sınayın

OpenRouter, bir hesab vasitəsilə yüzlərlə AI modelinə qoşulan bir saytdır, pulsuz bir yönləndirici var ki, bu da sizin tələbini 20-dən çox pulsuz modeldən birinə göndərir. Siz həmçinin LM Studio və ya Ollama ilə 8GB video yaddaşlı qrafik kartında və ya Apple M-seriyası Mac-də modelləri yerli olaraq işlədə bilərsiniz.

Pulsuz səviyyələr bir gecədə yox ola bilər, buna görə də, bunun üzərində heç bir vacib şey qurmayın və hər hansı bir həssas məlumatı yapışdırmadan əvvəl məlumat siyasətini oxuyun.

Bununla belə, pulsuz təkliflərdən istifadə edərək iterasiyalarınızı maksimuma çatdıra bilərsiniz. Hermes, ehtiyac duyduğunuz işi görə biləcək yaxşı pulsuz modellər seçiminə malikdir, Nvidia da eyni şəkildədir. Eyni işi daha sürətli edəcək premium model üçün ödəməkdən daha yaxşıdır ki, pulsuz daha axmaq bir model ilə bir təklifi tənzimləyin.

Əlavə başlanğıc ipuçları

Sadə suallar üçün geniş düşüncəni atlayın, ya da düşüncəni söndürmək mümkün olmayan yeni Claude modellərində səyləri aşağı salın. Anthropic, tam düşüncə prosesini çıxış kimi hesablayır, daxilində heç vaxt görmədiyiniz hissəni də daxil edir.

Claude Pro və Max abunəçiləri, istifadə kreditlərini açdıqda, Ayarlar altında aylıq xərcləmə limitini təyin edə bilərlər, sonra İstifadə.

Orta: agentiniz çox oxuyur

Buradan etibarən nümunələr Claude Code-u istifadə edir, Anthropic-in agenti terminalınızda işləyir və sizin üçün faylları redaktə edir; əmrlər birbaşa onun çat qutusuna gedir. Digər vasitələr də oxşar məntiqə sahib olacaq.

Əgər siz yalnız çat tətbiqlərini istifadə edirsinizsə, 8-ci ipucu hər hansı bir çat pəncərəsində də işləyir.

6. Ucuz başlayın, uğursuz olduqda artırın

/model yazın ki, modelləri dəyişəsiniz, Sonnet-i standart olaraq saxlayın və yalnız Sonnet müəyyən bir şeydə, məsələn, iki cəhddən sonra düzəldə bilmədiyi bir səhv baş verdikdə Opus-a keçin. Sadə subagent işləri üçün, Anthropic-in sənədləri subagentin parametrlərində model: haiku təyin etməyi tövsiyə edir.

7. Tapşırıqlar Arasında Təmizləmək

Qeyri-əlaqəli bir tapşırıqa keçəndə /clear yazın, bu heç bir şeyə başa gəlmir və köhnə tarixi silir. Tarixi lazım olduqda saxlamaq üçün /compact yazın, məsələn, /compact keep the database decisions, çünki sıxlaşdırma özü böyük bir tələbdir.

8. Kodun Boring Hesablamaları Etməsinə İcazə Verin

5,000 sətirlik bir cədvəli bir söhbətə yapışdırmaq modelin hər sətiri oxumasına səbəb olur və hələ də səhv sayma edə bilər, çünki dil modeli nə qədər ödəsəniz də bir kalkulyator deyil.

Bunun əvəzinə ondan bir formula və ya qısa skript istəyin, bunu özünüz işlədin və modelə yalnız nəticəni verin.

9. Alətlərinizi Azaldın

MCP serverləri bir modeli GitHub və ya Google Drive kimi tətbiqlərə bağlayan plaginlərdir və hər biri hər sessiyaya alət adları və təlimatları əlavə edir.

Boşluq yeyənləri görmək üçün /context yazın və layihənin istifadə etmədiyi serverləri deaktiv etmək üçün /mcp yazın.

Əlavə Aralıq İpuçları

Token-larınızın haraya getdiyini görmək üçün /usage yazın. Hər sessiyanın əvvəlində agentinizin oxuduğu təlimat faylını (CLAUDE.md və ya Soul.md) 200 sətirdən aşağı saxlayın.

Daha böyük dəyişikliklər üçün, Shift+Tab düymələrini basaraq plan rejiminə keçin, burada agent fayllara toxunmadan əvvəl təsdiqiniz üçün bir plan təklif edir və yanlış yola getdiyi anda Esc düyməsinə basın. Sadə işlər üçün, məsələn, bir dəyişənin adını dəyişmək üçün /effort istifadə edin.

Anthropic, bir agentin token istifadəsinin yalnız lazım olan alət təriflərini yüklədikdə 150,000 token-dən 2,000 token-ə düşdüyünü göstərdi, buna görə də GitHub-un gh kimi komanda xətti alətləri, işlədilmədikdə heç bir şeyə başa gəlmir, tez-tez həmişə açıq olan plaginləri üstələyir.

İrəliləyin: Sistemə Qoruyucu Xətləri Quraşdırın

1,000 ədəd 2,000 token-lik fakturanı, 200-token cavabları olan bir inkişaf etdirici götürün: iş Fable 5.1-də təxminən 30 dollar, Haiku 5.5-də isə təxminən 0.30 dollar başa gəlir, aşağıdakı hər hansı bir hiylə olmadan.

10. Heç vaxt Dəyişməyən Hissələri Keşləyin

Sabit təlimatları əvvəlcə qoyun və dəyişən hissələri sona qoyun, sabit bloku keşləmək üçün işarələyin. Anthropic-in API-sində bu bir əlavə sahədir:

"system": [{

"type": "text",

"text": "Sizin faktura təlimatlarınız...",

"cache_control": {"type": "ephemeral"}

}

]

Keşdən oxumaq normal giriş qiymətinin bir hissəsini təşkil edir, standart beş dəqiqəlik keşə yazmaq isə əlavə xərclidir. Hər cavabda cache_read_input_tokens sahəsini yoxlayın; əgər ilk çağırışdan sonra hələ də sıfır oxuyursa, keş işləməyir.

11. Gözləyə Bilən Hər Şeyi Toplayın

Həm OpenAI, həm də Anthropic toplu işləri 50% endirimlə işləyir, OpenAI 24 saat ərzində nəticələr təqdim etməyi vəd edir. 1,000 fakturanı bir toplu fayl kimi yükləyin, 1,000 canlı çağırış etmək əvəzinə, və hesab xeyli azalır.

12. Agentləri İdarə Edin

Hər agentin işə salınması üçün maksimum addım sayı və dollar limitini təyin edin və başlamazdan əvvəl "tamam" görünüşünü müəyyən edin. Claude Code, skriptləşdirilmiş işlər üçün --max-budget-usd bayrağını qəbul edir və Shopify, bir inkişaf etdiricinin xərcləri bir gündə artarsa, onların girişini dərhal kəsə bilən dövrə qırıcıları istifadə edir, qaçan agentləri tutmaq üçün hazırlanmışdır.

Hal-hazırda, normal olan şey, bu agentləri azad etmək və nəticə mükəmməl hesab edilənə qədər dövr etmələrinə icazə verməkdir. Pulunuz yoxdursa, agentlərinizin "mükəmməl" nə olduğunu müəyyən etməsinə icazə verməyin.

Əlavə İrəliləyən İpuçları

Uzun bir təklifin əvvəlində və ya sonunda kritik faktları qoyun. Stanford-un rəhbərlik etdiyi bir araşdırma, modellərin məlumatları bu mövqelərdə ən yaxşı istifadə etdiyini və ortada basdırıldığında ən pis istifadə etdiyini tapdı.

Bir səhv bahalı olduqda, məsələn, bir müqavilə bəndi və ya ödəniş rəqəmi üçün işləri yoxlamaq üçün ikinci bir model üçün ödəniş edin. OpenAI-in API-sində hər layihə üçün sərt xərcləmə limitini açın, çünki onun xərcləmə xəbərdarlıqları yalnız sizi xəbərdar edir və trafik dayandırmır.

Bir Testlə Başlayın

Ən ucuz modelinizi, beş tapşırıq testindən keçən modeli, bir həftəlik standartınız edin və yalnız uğursuz olduqda dəyişdirin. Sonra istifadə səhifənizi əvvəlki həftə ilə müqayisə edin; faktura işində, yönləndirmə tək başına hesabı 30 dollardan 3.90 dollara endirdi, 300 uğursuzluğu yenidən etmək üçün Opus-a 5.5 ödədikdən sonra belə.

Ancaq daha ucuz tokenlər tək başına iş görməyəcək: Silicon Data-nın Token Xərcləmə İndeksinə görə, 2023-cü ildən bəri bir tokenin qiyməti 90%-dən çox düşüb, lakin böyük dil modellərinə xərcləmə 2025-ci ilin sonlarından bəri iki dəfə artıb.

İqtisadçılar buna Jevons paradoksu deyirlər, bir resurs o qədər ucuzlaşır ki, insanlar nəticədə ona daha çox xərcləyirlər. Bain & Co.-nun iyun ayında yayımladığı bir hesabat eyni naxışa rast gəldi, token xərcləri 2024-cü ilin dekabrı ilə 2025-ci il arasında yarıya düşdü, eyni zamanda istehlak olunan tokenlərin sayı 450% artdı.

Yaxşı tərəfi odur ki, eyni düşən qiymətlər sizin üçün işə yarayır, tokenləri idman üçün yandırmağı dayandırdığınız an: yuxarıdakı vərdişlərlə birləşdirin və AI eyni zamanda daha ucuz və daha yaxşı olur.