8月20日、Techstrong AIが「Snowflake Adds Ability to Dynamically Route Prompts Across Multiple AI Models」と題した記事を公開した。この記事では、Snowflakeがプロンプトを複数のAIモデルに動的にルーティングする機能を追加し、コスト効率と柔軟性を両立する取り組みについて詳しく紹介されている。
トークン効率を最大3倍向上——動的モデルルーティングの実力
LLM(大規模言語モデル)の利用コストが増大する中、「どのモデルをいつ使うか」を自動で最適化する仕組みへの関心が高まっている。Snowflakeはこのニーズに応える形で、Cortex AI Gatewayに動的モデルルーティング機能を追加した。
この機能の核心は、ワークロードの性質に応じてプロンプトを最適なAIモデルへ自動振り分けする点にある。単純なタスクには軽量モデルを、複雑な推論が必要なタスクには高性能モデルを——という使い分けをシステムが自動で判断する。同時に、消費トークン数の上限制御も組み込まれており、コスト管理を細かく行える。
Snowflake社内のテスト結果は具体的だ:
- AIエージェントがdbtパイプラインを構築する際、単一のフロンティアモデルのみを使用した場合と比較してトークン効率が最大3倍向上した
- エンジニアリングチームが同数のプルリクエストをこなす際、25%のトークン効率改善を達成した
dbtとはデータ変換ワークフローを管理するツールで、データエンジニアリング現場で広く使われている。このような実務的なタスクで効率化が確認されている点は、机上の話ではない。
中国製モデルも選択肢に——セキュリティ対応は「Snowflakeが肩代わり」
今回のアップデートで特に目を引くのが、中国製オープンウェイトモデルの統合だ。具体的にはDeepSeek-V3-0324とGLM-4-32Bが新たにサポート対象となった。
※編集部注:元記事に記載されているモデル名表記を使用しているが、読者は元記事にて正確な製品名を確認されたい。
Snowflakeのベンチマーク結果は興味深い:
- DeepSeekはデータエンジニアリングタスクで74.4%のスコアを記録し、主要プロプライエタリモデルを上回った
- GLMモデルは62.8%のスコアを達成しながら、テスト対象の中で最も少ないトークン数で動作した
一方、中国製AIモデルはセキュリティ面での懸念が常に議論される。この点についてSnowflakeのChief Security & Trust OfficerであるMayank Upadhyay氏は「セキュリティ上の問題はデータガバナンスフレームワークと追加コントロールによって対処しており、顧客に代わってセキュリティを担保する」と述べている。
既存製品への統合と背景
動的モデルルーティングはSnowflakeの主要AI製品にも統合済みだ。Snowflake CoCo(AIを活用したコード生成・補完支援ツール)およびSnowflake CoWork(業務プロセスを自動化するエージェント型支援ツール)でも利用可能となっている。
これまでSnowflakeはAnthropic、OpenAI、Google、xAI、Meta、Mistralのモデルをサポートしてきた。プロプライエタリモデルのコスト上昇を受けてオープンウェイトモデルへの関心が高まっている状況は、スタンフォード大学のAI Indexレポートでも裏付けられており、プロプライエタリモデルはシェアを失いつつあるとされる。
Snowflakeの戦略は明快だ。すでに多くのデータを格納しているプラットフォーム上で、モデルの出自を問わず安全にAIを利用できる環境を提供することで、モデル選定における「ベンダーロックイン」を解消しようとしている。
詳細はSnowflake Adds Ability to Dynamically Route Prompts Across Multiple AI Modelsを参照していただきたい。