7月13日、Janakiram MSVが「Cheaper AI Tokens Do Not Guarantee Cheaper Enterprise Agents」と題した記事を公開した。この記事では、AIトークン単価の値下げ競争が進む中でも、エンタープライズ向けエージェントの実際のコストが下がるとは限らない理由について詳しく紹介されている。
トークン単価が下がっても、請求額は上がる
7月8日から9日にかけて、主要モデルが相次いでリリースされた。xAIがGrok 4.5、OpenAIがGPT-5.6ファミリーを一般公開し、MetaがMeta Model APIを開放。DeepSeekも5月末にV4-Proの価格を75%恒久引き下げしている。
※なお、本記事に登場するGrok 4.5・GPT-5.6ファミリー・Meta Model API・Muse Spark 1.1・Sol/Terra/Lunaといったモデル名および製品名は、いずれも元記事(Forbes、2026年7月13日付)に記載されているものだが、本稿執筆時点でTechFeed編集部が独自に確認できていないものも含む。名称・仕様は変更される可能性があるため、最新情報は各社の公式発表を参照されたい。
MetaのMuse Spark 1.1は入力トークン100万件あたり$1.25、出力は$4.25。OpenAIのフラッグシップSolは入力$5・出力$30で、その下のTerraはその半額、Lunaは入力$1・出力$6と設定されている。
ところが、レートカード(公表価格表)はあくまで請求書の一項目に過ぎない。
エージェント型ワークフローでは、1つのユーザーリクエストが「計画→ツール呼び出し→検証→リトライ」という複数ラウンドに展開される。トークン単価が下がっても、1タスクあたりのトークン消費量が増えれば、完了タスクあたりのコストは上昇しうる。
混同されがちな「4つのコスト指標」
記事が核心と位置づけるのが、以下の4つの指標が別物であるという指摘だ。
- Price per token:レートカードに載っている単価
- Tokens per attempt:ワークフローが実際に消費するトークン数
- Cost per successful task:ワークフロー全体のコストを「正常完了したタスク数」で割った値
- Total organizational spending:上記すべてにタスク量を掛けた組織全体の支出
これらは独立して動き、しばしば逆方向に動く。高価なモデルが90%のチケットを1回で解決すれば、安価なモデルが40%しか解決できずにリトライと人間エスカレーションを繰り返すよりも、解決済みチケットあたりのコストが低くなるケースがある。
モデル化すべき等式はシンプルだ。
総支出 = タスク量 × タスクあたり試行回数 × 試行あたりトークン数 × 実効トークン単価 + ツール・インフラコスト
現在値下がりしているのは、この式の第4項だけだ。
エージェントはなぜトークンを大量消費するのか
通常のチャット型インタラクションは、検索・モデレーション・ルーティングを挟んでも生成は基本1回だ。エージェント型ワークフローはこれに加えて、計画・ツール呼び出し・検証・リトライループを重ね、ループのたびにコンテキストを再送信する。ユーザーが見るのは1つの回答でも、APIへの課金はループ全体に発生する。
Goldman Sachsは2026年から2030年にかけてトークン消費量が24倍に増加し、月間120京トークン(原文単位:quadrillions of tokens)に達すると予測している。この急増の主因として同行が挙げるのは、「より多くの人がより多く質問するから」ではなく、「常時稼働するエンタープライズエージェント」だ。なお、この予測の詳細については元記事内でGoldman Sachsのレポートとして言及されているが、TechFeed編集部では原典レポートの直接確認には至っていない。
また、推論モード(chain-of-thought)も同じ方向に働く。Muse Spark 1.1は内部の思考トークンを出力レートで課金する。GPT-5.6の「ultra」設定は4エージェントを並列協調させるが、その分トークン消費が増える。
キャッシュの設計がアーキテクチャを左右する
入出力のどちらが請求額を押し上げるかはワークフロー次第だ。エージェント型コーディングではリポジトリのコンテキスト・ツール結果・会話履歴を毎ターン再送信するため入力トークンが支配的になる。一方、長い文書生成や重い推論タスクは出力側が増える。
実例として、月間1,000万トークン(非キャッシュ入力)+100万トークン(出力)のケースをみる。
| 入力 | 出力 | |
|---|---|---|
| Muse Spark 1.1 | $12.50 | $4.25 |
| GPT-5.6 Sol | $50.00 | $30.00 |
出力単価の方が高くても、いずれも入力が請求の大半を占める。出力単価だけで予算を組むとバジェットを見誤る。
キャッシュの条件はプロバイダーごとに大きく異なり、アーキテクチャ上の差異になり得る。
- Meta:キャッシュ読み取り $0.15/百万トークン
- OpenAI:GPT-5.6でキャッシュ読み取り90%割引、書き込みは非キャッシュ入力の1.25倍
- Anthropic:キャッシュ書き込みは5分ウィンドウで入力の1.25倍、1時間ウィンドウで2倍
- Google:明示的なコンテキストキャッシュに時間単位のストレージ料金が発生する場合あり
特定プロバイダーのキャッシュ挙動に最適化されたアプリケーションは、ベンダー乗り換えコストが生じる。プロンプト抽象化レイヤーでこのリスクを軽減できる。
モデルAPI料金は「エージェントの請求書」の一部に過ぎない
本番環境のワークフローが支払うのはモデルAPIだけではない。検索・ベクターストレージ・リランキング・ブラウザ操作セッション・コードサンドボックス実行・オブザーバビリティ・人間レビューのコストが加わる。モデルAPIで計算を止めると、請求書のごく一部しか測れていない。
評価レイヤーの問題も指摘されている。OpenAIはコーディング評価ベンチマーク「SWE-Bench」の後継として位置づけられる「SWE-Bench Pro」を監査した結果、収録タスクの約30%が壊れている(テスト環境やタスク定義に問題がある)と推定し、主要コーディング評価としての推奨を取り下げたと元記事は伝えている。この「30%」はOpenAI自身による内部監査に基づくクレームであり、独立した第三者検証を経た数字ではない点に留意が必要だ。公開ベンチマークで「安いモデルで十分か」を判断できなくなった今、ワークフロー固有の評価を自前で実施する必要があり、その評価自体にも費用がかかる。
次のベンダー交渉で問うべき3つの質問
記事はエンタープライズ購買担当者向けに、次の3点をベンダーへの質問として挙げている。
- リトライとエスカレーションを含む、正常解決1タスクあたりの中央値トークン消費量はいくらか
- ワークフロー内のどのステップが、品質を落とさずにLunaやMuse層の低価格モデルで代替できるか
- ツール呼び出しが2倍になったとき、各課金レイヤーが独立して積み上がると請求額はどう変わるか
価格競争はエンタープライズ顧客に有利な交渉環境をもたらしている。しかしその恩恵を実際にコスト削減へ転換できるのは、ベンダーのレートカードではなく自社のアウトカムあたりコスト数値を持って交渉に臨む企業だ。
詳細はCheaper AI Tokens Do Not Guarantee Cheaper Enterprise Agentsを参照していただきたい。