TokenMaxxing: AIモデルを最大限に活用する方法

Metaの従業員は、今年の初めに内部リーダーボード「Claudeonomics」と呼ばれるものの順位を追い求めて、30日間で60兆のAIトークンを消費しました。テクノロジーコラムニストのGergely Oroszは、Anthropicのリスト価格に基づいてそのコストを約9億ドルと推定していますが、Metaはおそらくはるかに少ない金額を支払っています。

Bain & CompanyのコンサルタントであるJue Wangは、その無駄があらゆる場所に静かに存在していると見ています。「多くの企業、多くのユーザーが、すべてにOpusを使うことをデフォルトにしています。メールを生成することさえ含めて」と、彼女は今夏にAssociated Pressに語りました。もしあなたも同じことをしているなら、マクドナルドでお釣りを計算するためにアルバート・アインシュタインを雇っているようなものです。 Myriad: どの会社が最良のAIモデルを持つでしょうか？予測を立てるにはクリックしてください。

ChatGPTやClaudeに入力するすべての単語、そしてそれが返すすべての単語は、トークンで計測されます。トークンは、平均して約3/4の単語に相当するテキストの塊です。20ドルのサブスクリプションでは、そのメーターが使用制限に達する速度を決定します。APIでは、開発者が自分のアプリにモデルを接続するために使用するトークンごとのアクセスが請求書を決定します。

以下は、Anthropicの現在の価格リストです（百万トークンあたり）：

Haikuの料金は、100,000トークン未満のプロンプトに適用されます。より長いプロンプトは5倍のコストがかかります。

最高モデルは最小モデルの100倍のコストがかかり、OpenAIのラインアップも同様に、百万入力トークンあたり10ドルから0.10ドルまでの幅があります。これらのトークンごとの価格は、ラボにとっても、あなたにとってもすぐに合計されます。Anthropicの収益ランレートは、2025年末の約90億ドルから5月には470億ドル以上に増加しましたが、OpenAIは価格戦争を繰り広げて追いつこうとしています。

いくつかの習慣は、その支出を大幅に削減します。以下の最初の5つのヒントは、コーディングを必要としません。

トークンマキシングの意味（そして本来の意味）

トークンマキシングは、MetaのClaudeonomicsのようなシリコンバレーのフレックスとして始まり、Microsoft、Shopify、Amazonが同様のトークンリーダーボードで従業員をランキングしています。NvidiaのCEOであるJensen Huangは、3月の「All-In」ポッドキャストで、50万ドルのエンジニアが少なくとも25万ドル相当のトークンを消費しなければ「深く懸念する」と発言し、これに火をつけました。

そして、彼らは無駄な非生産的なことにトークンを消費しました。

Amazonでは、従業員が無関係なタスクで内部AIツールを使用して数値を膨らませていることを認めましたが、ある上級副社長がスタッフに「AIを使うためだけにAIを使用しないでください」と言いました。

このガイドは、エンジニアが現在推進している意味を使用しています：支出するトークンの数ではなく、各トークンの価値を最大化することです。

3つの概念がトークンの行き先を説明します。最初はエージェントループです。エージェントはツールを使用できるモデルであり、考え、ウェブを検索したり、コードを実行したり、結果を読み取り、完了するまで繰り返します。すべてのラップで会話全体を再送信します。

オーケストレーションはそのコストを増幅します：1つのモデルがマネージャーとして機能し、リクエストを分割し、サブエージェントと呼ばれる作業モデルに渡し、彼らの回答を再び組み合わせます。各作業者は独自のループを実行し、独自のメモリを持っているため、AnthropicはClaude Codeのエージェントチームが、仲間が計画モードで実行する場合、標準セッションの約7倍のトークンを使用できると述べています。この設定は、以下の中間的なヒントで説明されています。

グラフは、開発者がこれらのループが迷子にならないようにする方法です。LangGraphのようなフレームワークを使用すると、地下鉄の地図のようにワークフローを描くことができ、駅（ノード）が作業を行い、トラック（エッジ）が次に行く場所を決定します。これにより、モデルはアイデアや予算が尽きるまでループするのではなく、固定されたルートに従います。

言い換えれば、ループは作業を自動化し、品質を向上させるのに役立ちますが、多くのお金を使うことにもなるため、効率的であることが非常に重要です。以下は、そのためのいくつかのヒントです。

初心者：小さな仕事、小さなモデル

1. 仕事に合ったモデルを選ぶ

始めたばかりの場合、AIを実行するためにグラフィカルユーザーインターフェースを使用している可能性が高いです。

チャットアプリでモデル名をクリックしてください（ChatGPTのチャットの上部、ClaudeやHermesの送信ボタンの隣）し、メール、要約、言い換え用の小さくて速いオプションに切り替えます。微妙なミスが実際のお金を失うことになるような難しい推論や決定には、トップモデルを維持してください。

先週のタスクを両方のモデルで並行して5回実行し、小さい方が合格したらそれを保持します。使用制限を広げるサブスクリプションでは、APIで最大99%の請求を削減できます。

2. 5つの悪いプロンプトの代わりに1つの良いプロンプトを書く

「いいえ、合計だけ」とか「これをもっと良く、正確にして」と3回言うと、毎回チャット全体を再送信することになります。1つの明確なプロンプトが仕事と回答の正確な形を示します。以下のようなものが機能するかもしれません：

以下のテキストから請求書番号、日付、ベンダー、合計を抽出してください。すべての値はそのまま保持してください。フィールドがない場合は「missing」と書いてください。

OpenAIのテストでは、よりスリムで明確なプロンプトがトークンを少なく使用しながら高得点を得ることが分かりました。

3. トピックを変更するときは新しいチャットを始める

モデルは、送信ボタンを押すたびに会話全体を再読み込みするため、50メッセージのスレッドがあなたの休暇についてのものであれば、税金の質問が高くて愚かになります。

Anthropicはこの劣化を「コンテキストロット」と呼んでいます。

神の愛のために、話題が変わるたびに新しいチャットを始めてください。

4. 必要なサイズを要求する

出力トークンは、AnthropicとOpenAIのトップモデルでは入力の5倍のコストがかかります。プロンプトの最後に「3つの箇条書き、100語以内」や「変更された行のみ」といった内容を付け加えると、モデルが余分な情報を加える余地が少なくなります。

モデルが出力の長さに制約を持っている場合、特に創造的なタスク（ライティングやリサーチなど）でトークンを節約します。

5. 支払う前に無料で試す

OpenRouterは、1つのアカウントを通じて数百のAIモデルに接続するサイトで、約20の無償モデルのいずれかにリクエストを送信する無料ルーターがあります。また、8GBのビデオメモリを持つグラフィックカードやApple MシリーズのMacでLM StudioやOllamaを使用してローカルでモデルを実行することもできます。

無料プランは一夜にして消えることがあるため、重要なものをその上に構築しないでください。また、何か敏感な情報を貼り付ける前にデータポリシーを読みましょう。

とはいえ、無料オファーを利用することでイテレーションを最大限に活用できます。Hermesには必要な仕事をこなす良い選択肢の無料モデルがあり、Nvidiaも同様です。プレミアムモデルにお金を払うよりも、無料の簡単なモデルでプロンプトを調整する方が良いです。

追加の初心者向けヒント

簡単な質問には長い思考をスキップするか、思考をオフにできない新しいClaudeモデルでは努力設定を下げてください。Anthropicは、見えない部分を含む完全な思考プロセスを出力として請求します。

Claude ProとMaxのサブスクライバーは、設定の下で使用クレジットをオンにすると、月間支出制限を設定できます。

中級者：あなたのエージェントは読みすぎている

ここから先の例は、ターミナルで実行され、ファイルを編集するAnthropicのエージェントClaude Codeを使用しています。コマンドはそのチャットボックスに直接入力されます。他のハーネスも同様の論理を持っています。

チャットアプリのみを使用している場合、ヒント8はどのチャットウィンドウでも機能します。

6. 安く始め、失敗したらエスカレートする

モデルを切り替えるには /model と入力し、Sonnet をデフォルトとして維持し、Sonnet が特定のバグを修正できない場合にのみ Opus に移行します。簡単なサブエージェントの仕事には、Anthropic のドキュメントでサブエージェントの設定に model: haiku を設定することを推奨しています。

7. タスク間のクリア

無関係なタスクに切り替えるときは /clear と入力します。これはコストがかからず、古い履歴を削除します。履歴が必要な場合は、/compact とともに保持する内容についてのメモを追加します。たとえば、/compact keep the database decisions のように、コンパクト化は大きなリクエストであるためです。

8. コードに退屈な計算をさせる

5,000 行のスプレッドシートをチャットに貼り付けると、モデルはすべての行を読み取りますが、計算ミスをする可能性があります。言語モデルは、いくら支払っても計算機ではありません。

代わりに、式や短いスクリプトを求め、それを自分で実行し、モデルには結果だけを渡します。

9. ツールを整理する

MCP サーバーは、モデルを GitHub や Google Drive などのアプリに接続するプラグインであり、それぞれがすべてのセッションにツール名と指示を追加します。

/ context と入力して、スペースを消費しているものを確認し、/mcp を使用してプロジェクトで使用していないサーバーを無効にします。

追加の中間ヒント

/usage と入力して、トークンがどこに消えたかを確認します。エージェントが毎回のセッションの開始時に読む指示ファイル CLAUDE.md（または Soul.md）を 200 行未満に保ちます。

大きな変更を加えるには、Shift + Tab を押して計画モードに切り替え、エージェントがファイルに触れる前に承認のための計画を提案し、間違った方向に進んだ瞬間に Esc を押します。/effort を使用して、変数の名前変更のような簡単な仕事のために推論をダイヤルダウンします。

Anthropic は、エージェントのトークン使用量が 150,000 トークンから 2,000 トークンに減少したことを示しました。これは、必要なツール定義のみを読み込んだ場合です。したがって、実行するまでコストがかからない GitHub の gh のようなコマンドラインツールは、常にオンのプラグインよりも優れています。

高度な: システムにガードレールを組み込む

1,000 件の請求書を処理する必要がある開発者を考えてみてください。各請求書は 2,000 トークンで、200 トークンの回答があります。この仕事は、Fable 5.1 で約 $30、Haiku 5.5 で約 $0.30 のコストがかかります。

10. 変更しない部分をキャッシュする

安定した指示を最初に置き、変更される部分を最後に置き、安定したブロックをキャッシュ用にマークします。Anthropic の API では、追加のフィールドが 1 つあります:

"system": [{

"type": "text",

"text": "あなたの請求書の指示...",

"cache_control": {"type": "ephemeral"}

}

]

キャッシュから読み取ることは、通常の入力価格の一部のコストで済みますが、デフォルトの 5 分間のキャッシュに書き込むことは追加のコストがかかります。各応答の cache_read_input_tokens フィールドを確認してください。最初の呼び出しの後にまだゼロと表示されている場合、キャッシュは機能していません。

11. 待機できるものはバッチ処理する

OpenAI と Anthropic の両方は、バッチジョブを 50% 割引で処理します。OpenAI は 24 時間以内に結果を約束しています。1,000 件の請求書を 1 つのバッチファイルとしてアップロードし、1,000 回のライブコールを行うのではなく、請求書のコストを大幅に削減します。

12. エージェントを制御する

各エージェントの実行に対して最大ステップ数とドル制限を設定し、開始前に「完了」の定義を行います。Claude Code はスクリプト実行のために --max-budget-usd フラグを受け入れ、Shopify は、支出が 1 日以内に急増した場合に開発者のアクセスを即座に遮断できる回路ブレーカーを使用しています。これは、暴走するエージェントを捕まえるために設計されています。

現在、通常のことは、実際にそれらのエージェントを自由にし、結果が完璧と見なされるまでループさせることです。お金がない場合は、エージェントに「完璧」とは何かを決定させないでください。

追加の高度なヒント

長いプロンプトの最初または最後に重要な事実を置きます。スタンフォード大学主導の研究では、モデルはその位置にある情報を最もよく使用し、真ん中に埋もれていると最も悪く使用することがわかりました。

間違いが高価な場合、契約条項や支払い金額など、作業を確認するために 2 番目のモデルに支払います。OpenAI の API では、各プロジェクトに対して厳しい支出制限をオンにします。支出アラートは通知するだけで、トラフィックを停止することはありません。

1 回のテストから始める

最初のヒントからの5つのタスクテストを通過する最も安価なモデルを1週間デフォルトに設定し、失敗したときだけ切り替えます。その後、使用ページを前週と比較してください。請求書の仕事では、ルーティングだけで30ドルから3.90ドルに削減されました。Opusに5.5ドルを支払って300件の失敗をやり直した後でもです。

しかし、安価なトークンだけでは仕事をこなせません。2023年以降、シリコンデータのトークン支出指数によると、単一トークンの価格は90%以上下落していますが、大規模言語モデルへの支出は2025年末以来2倍になっています。

経済学者はこれをジェボンズの逆説と呼びます。資源が非常に安価になると、人々は結局それに対してより多くの支出をすることになります。ベイン＆カンパニーの6月のブリーフでは、2024年12月から2025年の間にトークンコストが半減し、消費されるトークンの数が450%増加するという同じパターンが見られました。

良い点は、トークンを無駄遣いするのをやめた瞬間から、同じ下落価格があなたに有利に働くことです。上記の習慣と組み合わせることで、AIは同時に安価でより良くなります。