8月1日、Futurismが「Amazon Insiders Horrified at "Catastrophically Expensive" Internal AI Usage」と題した記事を公開した。Amazon社内でAIエージェントの利用コストが制御不能に膨らみ、社内から「壊滅的に高額」と悲鳴が上がっている実態について詳しく報じている。
予算の約9.6倍超過、5ヶ月気づかず
最も衝撃的な事例は、AnthropicのAI「Claude Sonnet」を使って著者情報をAmazonの商品リストに紐付けるという、ごく平凡な作業に関するものだ。この単純な自動化タスクで、Amazonは180万ドル(約2億7,000万円)を費やした。元記事によれば当初予算に対して860%超過、すなわち予算の約9.6倍に達したとされる(例:当初予算が約19万ドルであれば、その約9.6倍が180万ドルに相当する計算となる)。さらに問題だったのは、この出費が判明するまでに5ヶ月かかったという点だ。
元記事によれば、この超過が発覚したのは財務レビューのプロセスを通じてであり、担当チームがリアルタイムでトークン消費量やコストを追跡する仕組みを持っていなかったことが原因とされている。「AIにまつわるコストが、いくらかかっているのか把握するのが難しい」と、Amazonの上級社員はFuturismが引用するFT(Financial Times)の報道に対して率直に語っている。
この事例だけではない。財務監査ツールの開発に関連して54万1,000ドルの予期せぬコストが発生し、物流ネットワークの配送スピード改善を目的としてAIに任せた作業では13万4,000ドルが無駄に消えた。
ベテランのシニアエンジニアたちは、かつては「取るに足らない安価なミス」だったものが、AI時代には「壊滅的に高コストなミス」になると警鐘を鳴らしている。
「tokenmaxxing」という文化が生んだ弊害
背景にあるのは、業界に広まっていた「tokenmaxxing」と呼ばれる風潮だ。AIモデルが消費するトークン量を最大化すること——つまりAIエージェントや開発ツールを際限なく使い込むこと自体——を良しとする業界スラングであり、企業も社員も使用量を競っていた時期がある。
Amazonはその象徴的存在でもあった。社内では、社員がAIツールをどれだけ使っているかをランク付けする社内リーダーボードが存在した。このランキングは2025年5月に廃止されたが、コスト超過への対応が本格化したタイミングと重なる。
AIベンダー側の課金モデルも問題を加速させた要因の一つだ。多くのAI企業が、定額サブスクリプションからトークン量に応じた従量課金へ移行したことで、使えば使うほどコストが青天井に膨らむ構造になっている。Futurismが以前報じたケースでは、ある企業がClaudeの利用料として1ヶ月で5億ドル近くを費やしたという。
人員削減とAI投資という皮肉な構図
コスト管理が崩壊しているという現実は、Amazonにとって特に皮肉な状況だ。同社はここ数年、コスト削減とAI投資を名目に人員削減を続けており、直近の1万6,000人規模のレイオフでも「AIによる効率化」を公言していた。人をAIに置き換えることで削減したはずのコストが、AI利用料として別の形で流出している構図だ。
なお、Amazonの広報担当者はFTに対し、「少数の孤立した学習事例を取り上げ、それが通常業務の実態であるかのように描写することは、Amazonがいかにチーム全体でAIを活用しているかを反映していない」とコメントしている。
エンジニアへの示唆
今回の報道が示すのは、AI活用におけるコスト可視化の難しさだ。従来のソフトウェア開発では、インフラコストはある程度予測可能だった。しかしAIエージェントは、タスクの複雑さや試行回数によってトークン消費量が大きくブレるため、事前の見積もりが難しい。
こうした問題への対策として、AWSが提供するAWS BudgetsやAWS Cost Explorerのようなコスト管理ツール、あるいはAnthropicのUsage Policy上で設定できるレート制限の活用が現実的な選択肢となる。また、LLMのコスト追跡に特化したオープンソースツール「LiteLLM」なども、チームレベルでの使用量モニタリングに用いられている。
コスト上限の設定、リアルタイムの使用量モニタリング、そしてAIに任せる作業の費用対効果の定期的な検証——こうした運用管理が、AI導入の成否を左右する時代になっている。Amazonの事例は、その仕組みを持たないまま大規模にAIエージェントを展開することのリスクを、具体的な数字で示した貴重な教訓といえる。
詳細はAmazon Insiders Horrified at "Catastrophically Expensive" Internal AI Usageを参照していただきたい。