7月6日、Digital Trendsが「AI's energy tax was already concerning. Research says AI agents are over hundred times worse」と題した記事を公開した。KAIST（韓国科学技術院）のMinsoo Rhu教授らの研究チームが発表した論文をもとに、AIエージェントが従来の生成AIと比較して最大136.5倍のエネルギーを消費するという定量的な測定結果と、インフラ設計への含意を詳しく紹介している。

AIエージェントとは何か、なぜ通常のAIより重いのか

まず前提として、本研究の「AIエージェント」と「通常のAI（チャットボット）」の違いを押さえておく必要がある。

通常のチャットボットはプロンプトに対して1回の推論を実行し、応答を返して終わる。一方、AIエージェントはLLM（大規模言語モデル）の呼び出しを何度も繰り返しながら、Webブラウジング、コード実行、外部ツールとのやりとりを自律的にこなす。AutoGPTやOpenAIのOperatorのような仕組みがこれにあたる。1回のユーザーリクエストが、内部では数十〜数百回のLLM推論ループとして処理されるため、エネルギー消費の構造がそもそも異なる。

この「繰り返し推論」という構造的な違いこそが、今回の測定結果の核心にある。

1クエリあたり348Whという数字の重さ

KAISTの研究チームによる実測結果は鮮烈だ。700億パラメータのLLMを使ったAIエージェントは、1クエリあたり平均348.41Whを消費した。一般的なチャットボットと比較すると約136.5倍のエネルギーだ。

応答レイテンシも最大153.7倍に跳ね上がる。さらに見落とされがちな問題として、GPUが実行時間の最大54.5%でアイドル状態になることが判明した。外部ツールの処理完了を待っている間も、ハードウェアは電力を消費し続ける。高価なGPUが半分以上の時間を待機に費やすという非効率は、コスト面でも無視できない。

「GoogleのトラフィックをAIエージェントで処理したら」という試算

研究チームはさらに、スケールの問題に踏み込んでいる。Googleの現在の検索トラフィックに相当する1日137億リクエストを、すべてAIエージェントで処理するというシナリオを仮定した場合、必要な電力は約198.9ギガワットに達するという。これは米国全体の平均消費電力の約半分に相当する数字だ。

この試算はあくまで「Googleの全検索トラフィックをAIエージェントで置き換えた場合」という思考実験であり、現実の近未来予測ではない。ただし、AIエージェントが主流の検索・情報処理インフラとなっていくシナリオにおいて、電力インフラの整備が追いつかない可能性を定量的に示す点で重要な数字だ。

モデルの改善だけでは不十分という結論

論文のタイトルは「The Cost of Dynamic Reasoning: Demystifying AI Agents and Test-Time Scaling from an AI Infrastructure Perspective」で、2026年初めに開催された**IEEE HPCA（IEEE International Symposium on High-Performance Computer Architecture：高性能コンピュータアーキテクチャに関するIEEEシンポジウム）**で発表された。記事公開（2026年7月7日）の数ヶ月前に学術発表された成果であり、現在のエージェントAIブームの加速を受けて改めて注目を集めている。

Rhu教授はこの研究を通じて、AIの競争軸が「賢いAIを作る」から「効率的なAIを作る」へ移行しつつあると主張する。重要なのは、その「効率化」の範囲だ。モデル単体のアルゴリズム最適化では不十分であり、AIチップ・サーバー・データセンター設計・エネルギーシステムを一体として設計するco-designアプローチが必要になると論じている。

co-designとは、ソフトウェアとハードウェアを独立して最適化するのではなく、両者を同時に設計・調整するアプローチだ。論文ではその具体的な方向性として、エージェントのアイドル待機時間を削減するためのチップレベルのスケジューリング改善、メモリ帯域の最適化、そして外部ツール呼び出しのレイテンシを考慮したサーバーアーキテクチャの再設計が課題として示されている。単にモデルを小さくしたり量子化したりするだけでは、アイドル時の電力浪費という構造的問題を解決できないという指摘だ。

OpenAI、Google、Microsoft、Anthropicといった企業が一斉にエージェント型AIへの投資を拡大しているタイミングでの発表だけに、インフラ設計の見直しを迫る内容だ。

研究チームはAIエージェントのベンチマークをオープンソースで公開しており、エネルギー効率改善に向けた研究の加速を促している。

詳細はAI's energy tax was already concerning. Research says AI agents are over hundred times worseを参照していただきたい。