7月15日、Inside AI News が「Local LLM Electricity Costs Measured: Some Models Cheaper Than Cloud, Others Not」と題した記事を公開した。RTX 3090上でローカルLLMを動かす際の実測電力コストを8モデルで比較した結果、クラウドAPIより割高になるモデルが3つ存在したことが明らかになっている。
「ローカルは安い」は思い込みだった
「GPUさえ買えばあとはタダ同然」——そう信じているエンジニアは多い。だがこの調査は、その前提を数字で崩す。
本研究はある独立開発者が実施したもので、Inside AI News が紹介している。使用ハードウェアはNVIDIA RTX 3090一枚のみ。推論サーバーには Ollama を使用し、OSは openSUSE。計測にはオープンソースの監視ツール HomeLab Monitor を用い、nvidia-smi で10秒ごとにGPU消費電力をサンプリング。積分して各実行の正確な消費電力量を算出している。
コスト単位は€（ユーロ）あたり100万出力トークン。電力単価にはブルガリアの実際の昼夜別料金（ECBの固定レート 1 BGN ≈ €0.5113 で換算）を用いた。「TDPからの理論値」ではなく、実測値に基づいている点がこの研究の肝だ。
最も高かったのは最大モデルではなかった
テスト対象は以下の8モデル。すべて Q4_K_M 量子化の GGUF 形式（量子化：モデルの重みを低精度で圧縮し、メモリと計算量を削減する手法）で統一されている。
元記事に記載された各モデルの具体的なコスト数値のうち、明示されている数値を優先して記載する。一部モデルのコストは元記事内で数値が明示されておらず、下表では元記事の記述に即して相対的な水準を示している。
| モデル | パラメータ規模 | コスト（€/100万トークン） |
|---|---|---|
| gemma3:1b | 1B | €0.046（最安） |
| Devstral | 24B | クラウドより低い水準 |
| Qwen3-Coder | 30.5B | クラウドより低い水準 |
| Seed-OSS | 36B | クラウドより低い水準 |
| gemma3:27b | 27B | クラウドより低い水準 |
| gemma4:26b | 26B | クラウドより低い水準 |
| GLM-4.5-Air | 106B | クラウドより高い水準 |
| DeepSeek-R1-Distill | 32.8B | €1.526（最高） |
参考として、クラウドAPIの水準は以下のとおりだ。
- Gemini 2.5 Flash / GPT-4o-mini：約 €0.55/100万トークン
- Gemini 2.5 Flash-Lite（最安クラス）：約 €0.40/100万トークン
8モデル中5モデルはクラウドより安価だったが、GLM-4.5-Air（106B）・DeepSeek-R1-Distill（32.8B）を含む3モデルはクラウドを上回るコストとなった。元記事ではこの3つ目のモデルについても言及されているが、具体的な数値の記載は限られている。詳細は元記事を確認されたい。
そして最も高コストだった DeepSeek-R1-Distill（32.8B）は €1.526 と、より大きい106Bモデルの3倍以上に達している。パラメータ規模の逆転が起きている点が、この調査最大の発見だ。
コストを決めるのはパラメータ数ではなく「実効スループット」
なぜ32.8BのモデルがFlash-LiteよりもGPU電力コストで高くなるのか。原因は推論（Reasoning）アーキテクチャにある。
DeepSeek-R1-Distillは推論特化の蒸留モデルで、Chain-of-Thought（思考連鎖）トークンを大量に生成する設計になっている。回答を出力する前に内部的な「思考」トークンを長大に生成するため、エンドツーエンドで見た実効的な出力トークン生成レートが大幅に低下する。その結果、実際の出力トークン生成レートはわずか3.7トークン/秒——今回テストした全モデルの中で最低値だった。
対照的に、最安の gemma3:1b は154Wで136トークン/秒を叩き出す。
電力コストの本質は以下の式に集約される。
コスト = 消費電力（W） ÷ 実効スループット（tokens/sec）
ここで重要なのは「実効スループット」が、ベンチマークで報告される生成速度ではなく、思考トークン生成や内部処理の待ち時間を含めたエンドツーエンドの実測値である点だ。
「サイズはコストの主因ではなかった。実効速度こそが主因だ。そしてその実効速度は、これらのモデルが通常ベンチマークされる数値とは異なる。」（著者）
「測定値は下限値にすぎない」
注意点として、今回の計測対象は限界GPU電力のみだ。CPU、DRAM、アイドル消費電力、冷却、そして最も大きいハードウェア償却コスト（GPU購入費）は含まれていない。
著者は明示的に述べている——ローカルLLM運用の実コストは、高稼働率で初期投資を回収できるかどうかが支配的な変数であり、測定値はあくまで下限だと。
実践的な結論
この研究が示す指針は明快だ。「最大モデル = 最高コスト」は成立しない。推論特化モデルはChain-of-Thoughtトークン生成による隠れたエネルギーペナルティを持ち、より小さいモデルより高くつく場合がある。品質要件を満たす範囲で最小・最速のモデルを選び、公称の生成速度ではなく実際のワークロードで実効スループットを測ることが、コスト最適化の核心となる。
「重要な変数は、ウォールクロック秒あたりに実際に届けられるトークン数だ。それだけだ。」（著者）
計測方法論は HomeLab Monitor（オープンソース）で完全に再現可能で、Ollamaと統合しており、任意の通貨でコスト分析のAPIも提供している。
詳細はLocal LLM Electricity Costs Measured: Some Models Cheaper Than Cloud, Others Notを参照していただきたい。
