8月18日、Eric Avidonが「Snowflake targets cost of AI with dynamic model routing」と題した記事を公開した。SnowflakeがAI開発・運用コストの増大に対応するため、動的モデルルーティング機能をCortex AI Gatewayに追加したことが詳しく紹介されている。

エージェント開発コストは10万ドルを超えることも

AIエージェントの構築には、モデルルーティング、コンテキスト管理、ツール呼び出しの制御、バッチデータ処理、ネットワークオーケストレーションといった複数のワークフローが絡み合う。ITコンサルティング企業Triple Mindsによれば、これらのコストが積み重なると10万ドルを大きく超えるケースもあるという。従来のデータプロダクト開発と比べ、AIツールの開発コストははるかに高くなりがちだ。

コスト問題の核心は「モデルの選び方」にある。多くの企業が、タスクの複雑さに関わらず、とにかく最高性能のフロンティアモデル（GPT-4やClaude 3.5 Sonnetのような最上位モデル）にリクエストを投げ続けているのが現状だ。アナリスト firm SanjMoの創設者Sanjeev Mohanはこう指摘する。

Companies run AI across many apps and agents, and the default habit of sending every request to the most powerful frontier model turns out to be enormously wasteful, since most tasks don't need that horsepower.

Sanjeev Mohan（SanjMo 創設者）

デザインツールで知られるCanvaは、フロンティアモデルへの過度な依存が原因でコストが予想を上回り、成長予測を30%から20%に引き下げる羽目になったとMohanは述べる。「AI推論はソフトウェアのほぼゼロに近い限界コストという前提を壊す。モデル間のコスト管理は今や数十億ドル規模の問題だ」ともMohanは続けている。

動的モデルルーティングの仕組み

Snowflakeが今回発表した動的モデルルーティングは、Cortex AI Gateway（2025年7月に導入）に統合される機能だ。Cortex AI Gatewayは、AIモデルへのアクセス制御・コスト管理・ガバナンスポリシーの適用を一元的に担うコントロールレイヤーであり、企業がSnowflake環境内でAIの利用状況を把握・統制するための中心的な役割を果たす。動的モデルルーティングはこの基盤の上に乗る形で機能する。

仕組みはシンプルで、深い推論が必要なタスクはフロンティアモデルへ、複雑度の低いタスクはより安価なモデルへと自動的に振り分ける。たとえばカスタマーサービスエージェントに適したモデルと、サプライチェーン最適化エージェントに適したモデルは異なる。従来はこの選択を開発者が手動で行い、新しいモデルがリリースされるたびにアプリケーションのインフラを再構築する必要があった。

McKnight ConsultingのWilliam McKnightはその意義をこう評価する。「動的ルーティングはスケールでのモデル手動選択という運用負荷を自動化し、品質・速度・コストに基づいて各ワークロードに最適なAIモデルを自動でマッチングする」。

さらに、モデルの価格変動に応じてルーティングの判断も自動更新される点も重要だ。開発者がコスト削減のためにエージェントを作り直す必要がなくなる。

競合との差別化はどこにあるか

ただし、動的モデルルーティング自体は競合にも存在する機能だ。Mohanによれば、MicrosoftはAzure AI FoundryでModel Routerを提供し、DatabricksはUnity AI Gateway経由でルーティングを実現している。OpenRouterやVercelも同様の機能を持つ。

Snowflakeの差別化ポイントは、ルーティングアルゴリズムそのものではなく、データが外部に出ることなくSnowflakeのガバナンス境界内でルーティングが完結する点だ。

What's different about Snowflake's version is where it sits, routing inside Snowflake's governed boundary. For a Snowflake-centric enterprise, routing that never moves data outside governance and attributes spending to the right team is the distinction, not the routing algorithm itself.

Sanjeev Mohan（SanjMo 創設者）

ロールベースアクセス制御といったガバナンス機能との統合に加え、CortexのツールやHorizon Catalogとの連携が、Snowflake環境を中心に構築している企業にとっての実質的な付加価値となる。

モデルの拡充とロードマップ

Snowflakeはモデルの選択肢も拡充する。すでにAnthropic、Google、Mistral、OpenAI、およびxAI（Grok）のモデルにアクセス可能だ（元記事では「SpaceX」と表記されているが、文脈上xAI/Grokを指すと考えられる）。今後は**DeepSeekとZ.aiのモデルも追加予定**だ。なお、Z.aiのGLM-5.3へのアクセスおよび動的モデルルーティング自体はまだプライベートプレビュー前の段階で、DeepSeek-V4-Flashはプライベートプレビュー中となっている。

ロードマップとして、Snowflakeの製品ディレクターPavan Pothukuchiは「顧客が何を達成しようとしているかをより深く理解し、品質と効率を継続的に最適化しながら最適なモデルを選択する、より適応的な機能にしていきたい」と述べている。

一方でMcKnight Consultingは、Snowflakeが今後取り組むべき課題として、プラットフォームの複雑性と不透明な課金体系の改善を挙げる。AIドリブンなFinOpsコントロールやマイクロ同時実行スケーリングの追加も提案されており、「市場でのプライムポジションを維持するには、アーキテクチャの複雑性と課金への不安を解消することに集中しなければならない」とMcKnightは指摘している。

詳細はSnowflake targets cost of AI with dynamic model routingを参照していただきたい。