7月22日、Ars Technicaが「Unlimited AI tokens aren't unlimited after all as US Army burns through supply」と題した記事を公開した。米陸軍が年間分のAIトークン使用枠を使い切り、「無制限」のはずだったAIツールに実質的な制限が生じたという問題だ。枯渇の引き金となったのは、38日間にわたる対イラン軍事作戦である。「無制限AI」という売り文句が現場で崩れた事例として、民間のUberやMetaでも類似の問題が相次いでおり、企業・組織のAI調達における盲点を浮き彫りにしている。
「年間1億トークン」が枯渇した
米陸軍は、AIアシスタントツール「Ask Sage」を利用するため、年間サブスクリプションの「エンタープライズパック」として1億トークンのアクセス枠を持っていた。
ここで言う「トークン」とは、LLM(大規模言語モデル)がテキストや画像を生成する際の処理・出力単位だ。Ask Sageの場合、1トークンは約3.7文字に相当するという(Ars Technica記事が引用したWIREDの内部文書より。本記事にとっては孫引きとなる)。1億トークンとは、約3.7億文字分の出力に相当する計算だ。
この枠が尽きたことで、陸軍職員はAIツールの利用に制限がかかる事態に直面した。米国防総省(DOD)と陸軍、Ask Sage側はいずれもコメントの求めに応じていない。
イランでの作戦が消費量を急増させた
消費を加速させた要因として注目されるのが、38日間にわたるOperation Epic Fury(対イラン作戦)だ。Breaking Defenseの報道によれば、この期間中、国防総省全体で1日あたり約200億トークンを消費していたという。
陸軍の通常業務に使われるトークンが、機密・秘密情報を扱うAIツールの使用分と同じプールから引き落とされているかどうかは不明だ。ただし、軍事作戦レベルの突発的な需要急増が年間見積もりを根底から覆しうることは、この数字から明らかだ。
「無制限AI」に限界を感じ始めた組織は陸軍だけではない
大規模組織がAIの過剰消費を問題視し始める流れは、民間でも起きている。
- Meta:社員に「tokenmaxx(トークンを使い倒せ)」と奨励していたが、使用量ランキングのリーダーボードを静かに削除。Instagramの最高責任者(CEO相当)であるAdam Mosseriは先週、エンジニア1人あたりのトークン使用量に上限を設ける案を示唆した。
- Uber:エンジニアが年間分のトークン枠をわずか4ヶ月で使い切ったとFortune誌が報じている。
「無制限」という売り文句で導入が進んだ生成AIの企業・組織向けプランが、実際の現場では想定外のペースで枯渇するケースが相次いでいる。
現場職員の率直な評価
陸軍内部の職員は、生成AIツールについて次のように述べている。
「連邦政府の官僚的な業務の中で、これらのツールが役立つ場面は確かにあると思う。しかし、深く考えずに使い続けるだけでは、効果的・効率的・信頼性の高い展開にはつながらない」
さらにその職員は、使用したモデルが実際には完了していないタスクを完了したと虚偽の回答をしたとも証言している。「使えば使うほど良い」という前提自体が、現場では揺らいでいることを示す証言だ。
一方、DODのAI活用は拡大路線を継続
トークン枯渇問題とは別に、国防総省はAI活用をむしろ強化する方向を示している。The Interceptの報道(7月20日付)によれば、ペンタゴンは紛争時の民間人被害を防ぐ専門部署「Civilian Protection Center of Excellence」のスタッフを削減し、その業務をAIツールで代替する開発を進めているという。
人命に直結する判断をAIで代替しようとする動きと、現場でのAI信頼性への疑問が同時進行しているという構図は、DODのAI拡大路線が抱える矛盾を象徴している。コスト削減・効率化の圧力のもとでスタッフをAIに置き換えながら、そのAIが「完了していないタスクを完了と回答する」ケースが報告されているという現実は、調達・運用双方の見直しを迫るものだ。
コスト管理の観点から見ると、1億トークンという枠は一見巨大に思えるが、軍事作戦のような突発的な高負荷が重なれば意外に早く尽きる。エンジニアや調達担当者がAI導入コストを見積もる際、トークン消費量の実測値とピーク需要の両方に基づいた計画が不可欠であることを、この事例は示している。
詳細はUnlimited AI tokens aren't unlimited after all as US Army burns through supplyを参照していただきたい。