7月31日、SiliconAngleが「Physical AI reshapes enterprise infrastructure」と題した記事を公開した。ロボット・自律システム・エッジデバイスへのAI展開——いわゆる「Physical AI」の普及が、クラウド前提で設計されてきたエンタープライズAIインフラの根本的な見直しを迫っている。トークン消費の爆発的増加、GPU調達の経済設計、エッジへの小型モデル展開、そして「取り消せない操作」の制御という4つの軸で、インフラ設計の思想そのものが変わりつつある。

トークン消費の爆発がインフラ経済を変える

エンジニアが最初に押さえるべきポイントはトークン消費量の急増だ。

チャットボットと異なり、エージェント型ワークロードはマルチターン構造を持つ。会話の続きを処理するたびに、それ以前のすべてのトークンを再処理する必要があるため、トークン消費量はチャットの数倍どころか指数関数的に増える。SemiAnalysisのトークノミクス技術リード、Max Kan氏はこう説明する。

「エージェント型ワークロードは、1年前まで誰もが使っていたチャット型ワークロードに比べ、指数関数的に多くのトークンを消費する。本質的にマルチターンだからだ。エージェントにフォローアップを尋ねるたびに、あるいはウェブ検索やコードベース検索といったツールを使うたびに、会話内の過去のトークンをすべて再処理しなければならない。」

この構造的な問題は、インフラ調達の判断基準そのものを変える。「tokens per dollar」と「tokens per watt」という2つの指標がインフラ選定の軸になりつつある、とPositron AIのAPACマネージングディレクター、Darren Chien氏は強調する。同社は液冷ラックを設置できない一般的な企業データセンター向けに、空冷設計の推論最適化システムを開発している。なお、Positron AIについての詳細な企業説明は元記事の記述をもとにしており、公式情報は同社サイトで確認されたい。

推論インフラの3つの変化

元記事で登場する各社の取り組みを整理すると、インフラ層で起きている変化は大きく3点に集約される。

1. GPU共有によるコスト最適化

Rafay SystemsのCEO、Haseeb Budhani氏は「コンフィデンシャルGPU（機密性を保ちながら複数テナントで共有できるGPU）」の仕組みで、プロバイダーが1台のGPUを複数の企業に安全に貸し出せるようにしている。GPUを1社に専有させるモデルでは稼働率が下がり、コストが跳ね上がる。共有によってプロバイダーは稼働秒数を無駄なく収益化でき、企業側は初期投資を抑えながらセキュアな環境を利用できるという構造だ。

2. シリコンレベルの電力・熱管理

Axiadoは、CPUやGPUの負荷をシリコンで直接モニタリングし、ファン制御・液冷・電圧・周波数をワークロードに応じて動的に調整するプラットフォーム管理チップを開発している。従来はCPU/GPUがこれらの管理処理も担っていたが、専用シリコンにオフロードすることで計算リソースを本来の推論処理に集中させるのが狙いだ。

3. エッジでの小型モデル活用

Liquid AIのCEO、Ramin Hasani氏は、ラップトップや車載デバイス向けにカスタマイズ可能な小型基盤モデルを開発している。「小型モデル1つで汎用的な知識を持たせることはできないが、ファインチューニングのコストは驚くほど安くなる」と同氏は述べており、クラウドへの依存を減らしつつプライバシーと応答速度を確保する手段として位置づけられている。

エージェントの「取り消せない操作」問題

エンタープライズでのAIエージェント導入において、エンジニアが設計上直面する課題の一つが不可逆な操作の制御だ。

H CompanyのCEO、Gautier Cloix氏は、既存の業務ソフトウェアをエージェントが操作する「コンピューター利用型エージェント」の設計について、こう語っている。

「難しいのは、リスクなく安全に実行することだ。私たちがエージェントを構築した方針として、メール送信・削除・発注といった取り消せないタスクは、最初に人間の承認なしには実行できない。」

これはエージェント設計のアーキテクチャ上の問題であり、「決定論的にエージェントが誤った操作をできない」構造を作ることに多くのリソースを割いているという。

GPUを「金融商品」として扱う新市場

さらに元記事が取り上げているのが、GPU容量の金融デリバティブ化という動きだ。

Silicon DataおよびThe Compute ExchangeのCEO、Carmen Li氏は、GPU価格の変動ヘッジ手段として、コンピュートの先物・ベンチマーク商品を開発している。ハイパースケーラーはGPU収益の変動リスクをヘッジしたい、大規模AI企業はGPUコストの上振れをヘッジしたい——この両ニーズを金融商品として仲介する市場が形成されつつある。コンピュートが電力や原油と同様のコモディティ市場として機能し始めている点は、インフラ調達戦略を考えるエンジニアにとっても無視できない変化だ。

Physical AIが突きつける設計思想の転換

ここまで見てきた各社の動きに共通するのは、「クラウド中心・大規模集中型」という前提を疑い始めたという点だ。Physical AIの文脈では、ロボットや車載デバイスはネットワーク遅延・プライバシー・電力制約のすべてをクラウドに逃がすことができない。その結果、インフラ設計は「いかに大きく速く処理するか」から「いかに効率よく・安全に・現場で処理するか」へと軸足を移している。

「tokens per dollar/watt」という指標の台頭はその象徴であり、GPU共有による多テナント化・エッジへの小型モデル展開・不可逆操作の制御設計・そしてGPUのコモディティ市場化は、それぞれ独立したトレンドではなく、同じ設計思想の転換から派生した動きとして読むべきだ。エンタープライズAIのインフラを担うエンジニアにとって、これらの変化は今後の調達・アーキテクチャ判断に直結する。

詳細はPhysical AI reshapes enterprise infrastructureを参照していただきたい。