9月11日、SiliconAngleが「The hard physics and complex economics of AI's insatiable hunger for power」と題した記事を公開した。この記事では、AIの電力・水消費が従来のソフトウェアと根本的に異なる物理的・経済的理由と、その構造的な解決の難しさについて詳しく紹介されている。
AIはなぜ「電気喰い」なのか——ソフトウェアの常識が通じない理由
従来のソフトウェアは「一度書けば限界費用ゼロ」が基本原理だ。コードをマルチテナントサーバーにホストすれば、ユーザー数が増えても追加コストはほぼゼロに近づく。
AIはこの前提を根底から覆す。分散型PostgreSQLデータベースを手がけるYugabyte社のVP、Andrew Marshallは次のように説明する。
「従来のソフトウェアはキャッシュやコード再利用でマージンを稼ぐ。AIアプリケーションはユーザーごとに異なる計算を実行する。それがAIに価値をもたらすと同時に、ソフトウェアが持つ経済性を根本から崩す。」
IEA（国際エネルギー機関）のデータによれば、ChatGPTへの1回のクエリはGoogle検索の最大10倍の電力を消費する。生成AIで5秒の動画を生成するだけで、電子レンジを1時間以上連続稼働させる電力が必要だ。
消費規模の実態
データセンターの電力・水消費はすでに社会問題化している。
- **2023年時点で米国の全電力消費の約4.4%**をデータセンターが占める。2028年までに3倍になると予測されている
- 世界全体では2030年までにデータセンターの電力消費が倍増し、日本の年間電力消費量に相当する規模に達する見込み
- 大規模データセンター1棟が1日に消費する水は最大500万ガロン（約1,900万リットル）。人口5万人の都市の使用量に相当する
- 国連の推計では、AIの水需要は来年中にデンマークの年間総使用量を超える
米国では世論の反発も強まっており、Heatmapの調査ではアメリカ人の4分の3が地域への新規データセンター建設に反対と回答。全米30以上の州で130件超の抗議活動が組織され、2026年の中間選挙（米国では2年ごとに上下院議員を改選する選挙で、2026年11月が次回にあたる）の争点にまで浮上している。
効率化しても総消費量は減らない——ジェヴォンズのパラドックス
処理効率を改善すれば電力消費は減るのか。19世紀の経済学者ウィリアム・スタンリー・ジェヴォンズが観察した「**ジェヴォンズのパラドックス**」がここでも働く。効率が上がると単価は下がるが、それに伴って需要が急拡大し、結果として総消費量は増加する。
インテリジェントキャッシュオーケストレーションエンジンを開発するLightbits Labsは、自社技術でGPUの実効キャパシティを最大16倍に向上できると主張しているが、同社のRamesh Chettuvetty（AIプロダクト＆ビジネス担当SVP）はこう言い切る。
「GPUキャパシティ全体への影響はない。今の需要を満たすことは不可能だ。」
GPUの実態——稼働率10〜12%という現実
AIコスト問題の中核にあるのがGPUの調達・運用コストだ。生成AIモデルは汎用CPUではなく、GPUやGoogle TPU（テンソル処理ユニット）といった専用並列プロセッサに依存する。
高性能GPUが高価な理由は2つある。
1. 半導体製造コスト：チップ製造には「超純水」が不可欠で、工場1棟が1日に消費する超純水は最大1,000万ガロン。超純水1ガロンの生成には通常水1.5ガロンが必要なため、実際の水道水消費量は1日1,500万ガロン（約3万3,000世帯分）に相当する。
2. メモリウォール：LLMはクエリ処理の際、数千億パラメータに及ぶ重み行列をすべてローカルメモリにロードしなければならない。これを処理するため、チップを垂直に積層した高帯域幅メモリ（HBM）が必要となり、コストをさらに押し上げる。
現在、AI企業は世界の高性能コンピュータメモリの推定70%を購入している（The Atlantic報道）。その結果、コンシューマー向けメモリやストレージが逼迫し、一部のラップトップ価格が最大50%上昇している。
そして、これだけのコストをかけて調達したGPUクラスターの実際の稼働率は**平均わずか10〜12%**だ。GPUはメモリからデータが供給されるより速く計算できるため、プロセッサの多くのクロックサイクルがメモリ待ちに費やされる。トラフィックスパイクに備えてキャパシティを過剰確保（オーバープロビジョニング）する慣行が、この非効率をさらに拡大させている。
Lightbits LabsのAIアーキテクチャディレクター、Arthur Rasmussonはある事例を明かした。あるLLMプロバイダーが10億ドル規模のクラスターを、ピーク対応のために**稼働率10%**で常時維持していた、という。
推論コストという本丸
モデルの「訓練（トレーニング）」は電力消費の象徴として語られることが多いが、長期的に見ると主役は「推論（インファレンス）」だ。
MetaのLlama 3.1は訓練に27.5ギガワット時のエネルギーを要した（米国7,500世帯の年間電力量に相当）。ただし訓練は一回限りの固定コストであり、以後の数百万件のトランザクションに分散できる。
一方、Jefferies Financial Groupのアナリストは、AIデータセンターで消費されるエネルギーの96%を推論が占めると推計している。
推論が重い理由は2つのアーキテクチャ上の制約にある。
- 二次複雑性（Quadratic Complexity）：LLMはプロンプト内のすべてのトークン間の関係を計算する必要がある。入力量が2倍になると計算量は4倍になる。
- 自己回帰ループ（Autoregression）：LLMは1トークンを出力するたびにニューラルネットワーク全体を1パス実行し、その出力を次の入力に追加して再度全パスを実行する。1,000トークンの返答を生成するためには、このループを1,000回繰り返す必要がある。
現実的な対処法：AIに「余計なことをさせない」
コストと電力消費を削減する最もシンプルな方法は、AIモデルにやらせる仕事を絞ることだ。
資本市場向けAI推論システムを開発するOpetek社の創業者兼CEO、Varqa Abyanehはこう指摘する。
「モデルが数十万〜数百万トークンを処理できるからといって、そうすべきとは限らない。」
LLMは曖昧な質問の解釈、複雑な問題の分解、分析アプローチの選択といったタスクに適している。数百万件のデータポイントにわたる計算は、従来のコンピュータの方がはるかに安価に処理できる。
Opetekの推論システム「Arius」は、LLMが必要とするデータと、PythonプログラムやExcelで安価に処理できるデータを分離する設計だ。一部の金融シナリオではコストを90%以上削減したという。
「推論を最小化することが目標ではない。推論が価値を生む場所に推論を使うことが目標だ」とAbyanehは述べている。
詳細はThe hard physics and complex economics of AI's insatiable hunger for powerを参照していただきたい。
