8月4日、Ciscoが「The AI invoice nobody planned for」と題した記事を公開した。AIコストの暴走をオブザーバビリティで制御するCiscoの社内実践を、エンジニアリング担当VP Richard Delisser とエンタープライズAIプラットフォーム担当VP Greg Sylvester の連名で詳述したものだ。
「誰も計画していなかったAIの請求書」という現実
AI活用が本格化するにつれ、多くの企業で共通の問題が起きている。トークン消費コストが想定外に膨らみ、財務部門がIT部門に説明を求めても、誰も答えられないという状況だ。
ベンダーのダッシュボードは乱立し、手動レポートでは「どのチームが何に使っているか」が把握できない。トークンスパイクが起きてから予算を動かす——この「後手の管理」を繰り返している企業は少なくない。Ciscoも当初は同じパターンに陥っていたと率直に認めている。
「トークノミクス」という概念を軸に置く
記事の核心は、トークノミクス（tokenomics） をAI運用の基本指標として位置づける考え方にある。
なお、「トークノミクス」はWeb3・暗号資産の文脈ではトークン設計・流通モデルを指す既存の用語として広く使われているが、ここでCiscoが用いる意味はそれとは異なる。本記事では、AIエージェントが消費するトークンのコスト効率を管理・最適化するための運用指標体系として独自に定義されており、同義ではないことに注意が必要だ。
Ciscoの定義におけるトークノミクスの中心は、1トークンあたりのROI——「トークンイールド」を最大化するための効率指標だ。目標は単純にAI支出を減らすことではなく、コストとビジネス価値のバランスが取れた均衡点に到達することだとCiscoは説明している。
その均衡を達成するには、以下の3つが連携していなければならないとされる：
- インフラの最適化：GPUがアイドル状態でも課金が続く構造を放置すると、インフラコストが膨張する
- AIガバナンスとセキュリティ：エージェントが不正なタスクや非効率なプロセスにトークンを消費すれば、取り返しのつかない予算超過につながる
- エンドツーエンドのオブザーバビリティ：AI活動を財務成果に紐づけられなければ、非効率を「測定」するだけで「排除」できない
Splunk + Galileoで構築したオブザーバビリティ基盤
Ciscoが実際に採用しているのが、SplunkのAgent Observability機能に、買収したGalileoの技術を組み合わせたスタックだ。
※編集部の考察：GalileoはもともとAIモデルの出力品質評価・モニタリングに特化したスタートアップであり、ハルシネーション検出や本番AIシステムの挙動監視を得意とするツールとして知られていた。Ciscoは2024年にGalileoを買収しており、その技術をSplunkのオブザーバビリティ基盤に統合することで、AIエージェントの品質管理とコスト管理を一元化する狙いがあるとみられる。
なお、本文中のSplunk Agent ObservabilityへのリンクはTechFeed編集部が参照情報として追加したものであり、元記事に掲載されているリンクではない。
このシステムが行っていることは具体的だ：
- 専用の小型言語モデル（SLM） を使ってエージェントの出力品質を評価する。フロンティアモデルのごく一部のコストで動作し、ハルシネーション（AIの誤った出力）を検出し、有害・不正確な挙動をランタイムで遮断する
- モデル、GPU、ベクトルDB、メモリ、オーケストレーションフレームワークを含むAIスタック全体のパフォーマンスを監視する
- インフラの健全性、エージェントの挙動、セキュリティイベント、トークンコストをSplunkに集約して横断的に相関分析する
実際に発見された問題として、エージェントが不要なツール呼び出しを繰り返したり、使われないスキルを追加し続けたりすることで、トークン消費が無駄に膨らむケースが挙げられている。こうした挙動はオブザーバビリティがなければ検出すらできない。
コストをチーム・プロジェクト単位に帰属させる
単に監視するだけでなく、AI支出を特定チーム・プロジェクト・予算オーナーに直接帰属させる仕組みを社内業務システムと統合して構築している。Ciscoの会計年度カレンダーと予算階層に合わせた形で管理されており、財務部門が求める説明責任に応えられる設計だ。
具体例として、トークン使用量を実際のコードコミットにマッピングすることで、AI投資の真のROIを測定する取り組みが紹介されている。コストと成果物を直接結びつけることで、スケールアップの判断を根拠のある数字で行えるようになる。
本番環境での稼働規模
これはラボ実験ではない。Ciscoは自社のグローバル環境で2,000以上の本番AIエージェント、24,000人以上のアクティブユーザーを対象にこのモデルを運用中だ。
記事はシリーズの第1弾であり、今後のエントリでデプロイの詳細、得られた教訓、具体的な成果が公開される予定とされている。AIコスト管理の「後手」から「先手」への転換を図る企業にとって、続編も注目に値する内容になるだろう。
詳細はThe AI invoice nobody planned forを参照していただきたい。
