9月4日、elastic.co所属のSunile Manjeeが「Why your AI bill tripled while token prices fell 75%」と題した記事を公開した。この記事では、トークン単価が75%下落したにもかかわらずAIコストが増大し続ける構造的な原因と、その計測・制御の方法について詳しく紹介されている。
「単価は下がったのに請求額が増えた」の正体
トークン単価は過去1年で約75%下落した。にもかかわらず、エンタープライズのAI支出は増え続けている——これはアーキテクチャレビューの場で頻繁に問われる疑問だとManjeeは述べる。
原因はトークン価格ではなく、ワークロードそのものが変わったことだ。
チャットボットの1回の応答は単純な往復通信だが、AIエージェント（自律的に計画・実行・評価を繰り返すAIシステム）はそうではない。トリアージキューの処理やコードレビューのような業務では、エージェントは「計画→ツール呼び出し→結果評価→再試行→エスカレーション」というサイクルを繰り返す。各ターンはそれぞれ課金対象であり、エージェント型ワークロードは比較可能なチャットボットタスクの5〜30倍のトークンを消費する。これだけで75%の値下げ効果は消し飛ぶ。
なぜエージェントはトークンをここまで消費するのか
コンテキスト再注入という隠れコスト
最大の隠れコストはコンテキストの再注入だ。コンテキストウィンドウ（LLMが一度に処理できるテキストの上限範囲）の仕様上、エージェントがステップを踏むたびに、それまでの会話履歴全体をモデルに再送信する必要がある。つまり、ターン1で送ったトークンをターン6でも、ターン20でも再度支払うことになる。元記事が参照する30の本番エンジニアリングチームを対象にした調査では、この繰り返しが**推論コスト全体の62%**を占めていたという。
トークンを積み上げる5つの要因
他のコスト要因を列挙する：
- マルチステップ推論：エージェントは一発で答えを出さず、反復的に問題を解く。各反復が課金される。
- マルチターンシステム：会話の文脈を保持しながら対話を続ける設計。状態管理のたびにトークンが増加する。
- マルチホップ操作：複数のデータソースをまたいで情報を連鎖させる処理。ホップごとにコンテキストウィンドウが膨張する。
- ツール呼び出し：外部ツールとのやり取りはリクエスト・レスポンスの両方で課金される。
- リトライループ：失敗したステップは同じトークンを2回、場合によっては3回消費する。
スタンフォード大学のDigital Economy Labの調査によると、エージェント型コーディングは単純なコードチャットの最大1,000倍のトークンを消費し得る。さらに深刻なのは、同一タスクのコストが最大30倍のばらつきを示すという点だ。タスクも結果も同じなのに、実行コストが30倍変動する。この予測不能な分散こそが真の問題だ。
コスト可視化の欠如がプロジェクトを殺す
企業の81%が3つ以上のAIモデルを運用し、88%が2つ以上のプロバイダーを利用している。コストデータは各社のバラバラな請求コンソールに散在し、「1タスクの完了に何ドルかかっているか」という単純な問いに誰も答えられない状態になっている。
Elasticが2026年に実施したエンタープライズIT調査では、LLMオブザーバビリティ（LLMの推論コスト・品質・挙動をリアルタイムで追跡・監視する仕組み）の導入を計画していると回答した企業が**85%に上った一方、実際に実装済みなのはわずか8%**だった。大半のチームはタスク単位のコストテレメトリなしで本番エージェントを動かし、プロンプト・ツール呼び出し・リトライを個別に追跡できない集計クレジットのみを見ている状態だ。
その結果として、過去1年に立ち上がったAIプロジェクトのうち、当初のROI目標を達成できているのは23%のみというデータがある（元記事ではHyper Frame Researchの調査として紹介されている）。モデルの品質ではなく、コストと対価の関係を説明できないことがプロジェクト停滞の主因だとManjeeは指摘する。
今週から始められる対処法
まず記録すべき5つのフィールド
Manjeeが提案する最初の一手は、エージェント実行ごとに5つのフィールドを記録することだ：
- 入力トークン数
- 出力トークン数
- 使用モデル
- リトライ回数
- タスクが完了したかどうか
これだけで「タスク1件あたりの実コスト」を算出でき、大半の場合、予算の大部分を静かに消費している2〜3のワークロードを特定できる。
プロバイダー横断での一元管理
すべてのトラフィックを単一のゲートウェイ経由でルーティングし、5フィールドをプロバイダー横断で一元化する。次に、同一ワークフローのコスト上位10%と下位10%を比較する。その差分が最適化の余地だ——これは月次の請求書では絶対に見えない。
計測単位を「トークン」から「タスク」へ
記事が最終的に提示するのは、トークンダッシュボードに代わる4つの指標だ：
- タスク完了コスト（cost per completed task）
- コンテキスト効率（context efficiency）
- 品質調整後効率（quality-adjusted efficiency）
- ビジネス価値倍率（business value multiple）
「1プロンプト→1回答」の時代はトークン消費量がコストの代理指標として機能した。1タスクが40回の推論・6回のツール呼び出し・2回のリトライを引き起こす現在、その前提は成立しない。計測の単位をトークンからアウトカムへ移行することが、エージェント型AIのコスト管理の出発点になる。
詳細はWhy your AI bill tripled while token prices fell 75%を参照していただきたい。
