7月21日、The Decoderが「Google's "Frozen v2" chip reportedly bakes Gemini's architecture directly into silicon for efficiency gains」と題した記事を公開した。GoogleがGeminiモデルのアーキテクチャをシリコンに直接焼き込む専用チップ「Frozen v2」を社内開発しており、現行TPU比で最大6〜10倍の推論効率を実現する可能性があるという。推論コストが収益の生死を分けるAI業界において、これはGoogleの競争戦略の核心に触れる動きだ。

モデルの「重み」ではなく「アーキテクチャ」を焼き込む

AIチップの設計において、特定モデルへの最適化と汎用性はトレードオフの関係にある。GoogleのFrozen v2はその折衷点を探ったチップだ。

元のアイデアはGoogleのシニアフェロー（Google Fellow）であるJeff Deanが発案した初代「Frozen」設計に遡る。初代の構想では、モデルの重み（weights）——AIモデルがクエリにどう応答するかを決定する具体的なパラメータ値——をチップに直接埋め込む計画だった。しかしこのアプローチは廃棄された。特定のGeminiバージョン1つにしか対応できず、モデルが更新されるたびにチップが即座に陳腐化するためだ。

Frozen v2が採用したのは、重みではなくモデルアーキテクチャ（モデルの設計図そのもの）をハードウェアに埋め込む方式だ。アーキテクチャを固定しつつ、重みはチップ上に後からロードできる構造にすることで、モデルのバージョンアップにある程度追随できる。チップ名の「Frozen（凍結）」は、AIモデルの学習で特定層のパラメータを固定する「freezing」の概念から来ている。

ただし、アーキテクチャのどの部分をどこまでハードコードするかはまだ決定していないと、情報源を引用したThe Informationは報じている。

TPUとの役割分担——外販は想定せず

GoogleのTPU（Tensor Processing Unit）は多様なモデルに対応する汎用AIアクセラレータとして設計されており、MetaへのリースやGoogle Cloud経由での外部提供、さらに「TPU@Premises」プログラム——企業がGoogle TPUを自社データセンターにオンプレミス設置できる仕組み——を通じた展開など、Nvidiaへの対抗軸として積極的に展開されている。Googleは内部目標としてNvidiaの年間売上の10%獲得を掲げているほどだ。

一方、Frozen v2はあくまでGoogle社内のAIコンピューティングキャパシティ不足の解消を目的としており、外部顧客への販売は想定されていない。チップがGeminiの特定アーキテクチャに依存する以上、Googleが同アーキテクチャを維持し続ける間しか有効に機能しないからだ。製造規模もTPUラインより小さく設定されており、専用チップ設計のテストベッドという位置付けとなっている。

2028年の展開開始を予定しているとされる。

推論コストの削減が競争優位に直結する

AI業界では、強力なモデルをどれだけ安く推論できるかがビジネスの収益性を左右するようになっている。OpenAIやAnthropicとの競争において、GoogleがFrozen v2で推論コストを大幅に削減できれば、より安価に高性能なモデルを提供してシェアを奪う手段になり得る。

もっとも、2028年という展開時期を考えると、それまでにGeminiのアーキテクチャがどう変化しているかは未知数だ。アーキテクチャをシリコンに焼き込む以上、大規模なモデル構造の刷新があれば設計の見直しが必要になる。今回の取り組みが「専用チップのテストラン」と位置付けられていることも、その不確実性を示している。

さらに視野を広げると、モデルアーキテクチャのハードウェア固定という手法はGoogleに固有のものではなく、AIチップ業界全体が模索している方向性でもある。ただし大手クラウド事業者の中でここまで具体的な開発情報が表に出るのは珍しく、Googleの社内推論コスト問題がそれだけ切迫していることの表れとも読める。Frozen v2が予定通り2028年に展開されるとすれば、その時点でのGeminiアーキテクチャの継続性と実際の効率改善幅が、この賭けの成否を決める最大の変数となるだろう。

詳細はGoogle's "Frozen v2" chip reportedly bakes Gemini's architecture directly into silicon for efficiency gainsを参照していただきたい。