10月29日、Daniel Singerが「Revolut says self-hosted AI cut coding costs 90%」と題した記事を公開した。フィンテック大手のRevolutが、OpenAIやAnthropicへの外部API依存をやめ、自社GPUで推論基盤を構築した結果、AIコーディングコストを90%削減したという。2,000人のエンジニアを抱える組織が達成したこの数字は、大規模開発組織にとって「自社ホスティング」が単なる理想論ではなくなりつつあることを示す具体的な実例だ。
NVIDIAのB200を56枚、GLM 4.5で構築した自社AI基盤
Revolutは、2,000人のエンジニアを対象とするAIコーディング支援の基盤を、外部APIから自社ホスティングへ切り替えた。採用したモデルはGLM 4.5(General Language Model)。GLMシリーズはZhipu AI(智譜AI)と清華大学(THU)の共同開発によるオープンソース系大規模言語モデルであり、GPT-4やClaude Sonnetと同等クラスとされている。ハードウェアはNVIDIA B200を56枚使用している。
結果として、AIコーディングのトークン単価は100万トークンあたり30セント(約44円)まで低下。外部API利用時と比べてコストを90%削減したという。
「重いチューニングが必要だった」という現実
この数字だけ見ると即座に自社ホスティングへ移行したくなるが、記事中でRevolutはこう付け加えている。「大幅なチューニングなしには達成できなかった」。
GLM 4.5は汎用的な能力では高い評価を受けているが、英語圏エンジニアの実務コーディングに最適化するためには相応の追加作業が必要であることを示唆している。コスト削減の数字は魅力的だが、ファインチューニングや推論最適化にかかるエンジニアリングコストを加味した上で評価する必要がある。
なぜ今、自社ホスティングが現実的になったのか
※編集部の補足:外部AIサービスのコストが経営課題として浮上し、CTO層を中心に自社推論基盤の検討が活発化した背景は、2024年後半以降に多くの大手テック企業で共通して見られた流れだ。Revolutのケースはその中でも特に具体的な数字を伴った実例として、開発組織のコスト構造を考える上での有力な参照点になる。
B200はNVIDIAの最新世代GPU(Blackwellアーキテクチャ)であり、前世代のH100と比較してAI推論の電力効率が大幅に向上している。56枚という規模の調達はスタートアップ水準を超えており、Revolutほどの規模(時価評価額450億ドル超)でなければ成立しにくい投資だ。
自社ホスティングの経済合理性が成立する条件として、①十分なトークン消費量(固定インフラコストを上回る利用規模)、②推論インフラを構築・運用できるMLOpsチームの存在、③モデルを実務用途にチューニングするためのデータと工数、の三点が揃う必要がある。Revolutはこれらを満たす数少ない組織のひとつだ。
エンジニア規模とトークン単価のインパクト
| 項目 | 数値 |
|---|---|
| 対象エンジニア数 | 2,000人 |
| 使用GPU | NVIDIA B200 × 56枚 |
| 採用モデル | GLM 4.5(自社ホスト) |
| トークン単価 | $0.30 / 100万トークン |
| コスト削減率 | 90% |
100万トークンあたり30セントという数字を外部APIと比較すると、たとえばClaude Sonnet 3.5の入力トークン単価($3.00/Mトークン前後)の10分の1以下に相当する。2,000人のエンジニアが日常的にAIコーディング支援を使えばトークン消費量は膨大になるため、このコスト差は月次で数百万ドル規模になり得る。
自社ホスティングが突きつけるトレードオフ
RevolutのトークンコストはOpenAIやAnthropicの主力モデルと比較して圧倒的に低い。ただし前述の通り、GLM 4.5のファインチューニングや推論インフラの構築・運用には相当のエンジニアリングリソースが必要だ。
この事例が示すのは、「外部API依存からの脱却」が一部の大規模組織では経済合理性を持ち始めているという事実だ。一方で、外部APIが提供する手軽さ——モデルの継続的な更新、セキュリティパッチ、サポート——をトレードオフとして手放すことになる。自社ホスティングに移行した瞬間から、モデルの陳腐化リスクも自社で引き受ける必要が生じる。
2,000人規模のエンジニア組織を持たない企業にとっては固定コストの回収が困難なケースが多い。一方で、Revolutの事例はモデルの商用利用コストが本格的な経営課題になりつつある今、自社のトークン消費規模と組織ケイパビリティを見直す契機として参照する価値がある。自社にとって「外部API」と「自社ホスティング」のどちらが合理的かを問い直すための、具体的な数字がここにある。
詳細はRevolut says self-hosted AI cut coding costs 90%を参照していただきたい。