8月25日、Vinod Chuganiが「Comparing Local Tool Calling: Gemma 4 vs. Llama 3 vs. Mistral」と題した記事を公開した。ローカルLLMが「テキスト生成器」にとどまる最大の理由は、外部の関数やAPIを自律的に呼び出すツールコーリングの実装難易度にある。この記事では、Gemma 4・Llama 3・Mistralの3モデルファミリーがローカル環境でのツールコーリングをどのように実装しているか、それぞれの実用的な強みとトレードオフを詳しく比較している。
クラウドLLMであれば、OpenAIのFunction CallingやAnthropicのTool Useといったホスト側の仕組みに乗るだけで済む。しかしローカル環境では、モデル自体がツール呼び出しの構造化出力を安定して生成できなければ、エージェント的な動作は成立しない。「どのモデルが、どの条件下で、どれだけ信頼できるか」——この問いへの実践的な答えが、本記事の核心だ。
ツールコーリングとは何か、なぜ今注目されているのか
ツールコーリング（ファンクションコーリングとも呼ばれる）は、LLMがトレーニングデータだけで答えを生成するのではなく、外部の関数やAPIを呼び出せるようにする仕組みだ。
動作の流れは以下の通りで、3モデル共通のパターンとなっている。
- アプリケーションが利用可能なツールをJSONスキーマとしてモデルに渡す
- モデルがユーザーのクエリを読み、ツールが必要か判断する
- 必要であれば、呼び出す関数名と引数を含む構造化JSONを出力する
- ホストアプリケーションが実際に関数を実行し、結果をモデルに返す
- モデルがその結果を踏まえた自然言語の回答を生成する
ローカル環境では、モデルはインターネット接続もライブDBへのアクセスも持たない。ツールコーリングはその制約を埋めるものだ。
なぜ今、この話題が重要なのか。2023〜2024年にかけてLLMのエージェント応用が急速に広がるなかで、「プライバシー上の理由でクラウドにデータを送れない」「オフライン・エアギャップ環境で動かしたい」というニーズが顕在化してきた。ツールコーリングの信頼性はローカルLLMを「試作品」から「本番投入可能なエージェント」に昇格させる条件であり、モデル選定の重要な軸になりつつある。
3モデルの実装比較：何が違うのか
Gemma 4（Google DeepMind）
2025年4月2日リリースのGemma 4は、ネイティブ関数呼び出しサポートを最初から組み込んでいる点が最大の特徴だ。「プロンプトで無理やり構造化出力させる」のではなく、ツール連携を前提として学習されている。
さらに特徴的なのがコンフィギャラブルな思考モードだ。ツールを呼び出す前にモデルがどれだけ中間推論を行うかを開発者が調整できる。誤ったツール選択が実害につながるエージェント用途では、これは意味のある設計上の選択肢となる。
モデルサイズはE2B・E4B・26B・31Bの4種類で構成され、エッジ・オンデバイス向けの小型モデルが充実している。中型以上のバリアントでは最大256Kトークンのコンテキストウィンドウを持ち、複数ターンにわたって大量のツール出力を扱うユースケースに向いている。ライセンスはApache 2.0。
Llama 3（Meta）
ツールコーリングのサポートはLlama 3.1リリースで追加された。それ以前は、信頼性のある構造化出力を得るために推論側での制約生成や丁寧なプロンプトエンジニアリングが必要だった。3.1以降はモデル自体がツール呼び出しシナリオを検出し、正しいJSON構造を出力するようfine-tuneされている。
実用上の注意点として、70B・405Bモデルは幅広いツール定義に対して安定して機能するが、8Bモデルは複数ツールの選択が曖昧な場合にフォーマットエラーや誤選択が起きやすい。
Llama 3.2の1B・3Bテキストモデルについては補足が必要だ。これらの超小型モデルは、リソース制約の厳しいエッジデバイスへの展開を念頭に設計されており、標準的なJSONスキーマではなくPython風の関数呼び出し構文を出力する「Pythonicスタイル」を採用している。これはトークン効率や解析の簡略化を優先した設計上の選択であり、呼び出し側のアプリケーションがこの出力形式を解釈できるよう実装する必要がある点に注意が必要だ。
エコシステムの広さがLlamaの最大の強みだ。LangChainやLlamaIndexなどのフレームワークとのインテグレーション、チュートリアル、コミュニティのfine-tuneリソースは3ファミリーの中で最も豊富であり、初めてローカルエージェントを構築する開発者にとって「最も抵抗の少ないパス」といえる。ライセンスは月間アクティブユーザー7億人未満での商用利用を許可するLlama 3 Community License。
Mistral（Mistral AI）
ツールコーリングはバージョン0.3で導入され、その後のリリースで成熟してきた。パリのスタートアップが2023年9月に投入したMistral 7Bは、2倍のパラメータ数を持つモデルを標準ベンチマークで上回りながら、大幅に少ない計算リソースで動作することで注目を集めた。
現時点でMistralのローカルツールコーリングにおける最注目モデルはMistral Small 4（2026年3月）だ。元記事では総パラメータ数を119Bと記載しているが、**Mixture-of-Experts（MoE）アーキテクチャにより、1トークンあたり約6Bのパラメータのみをアクティベートして推論する**。これは密モデルとしての実効的なサイズとは異なる概念であり、一般的に知られるMistral Small 3（22B密モデル）とは異なる系統の製品であることに注意が必要だ。この数値は元記事の記載に依拠しており、Mistralの公式ドキュメントとの照合を推奨する。
vLLMなどのデプロイフレームワークで使われるコミュニティ製のパラレルツールコーリングテンプレートは、ツールが提供された際に自動でツール使用システムプロンプトを追加する仕組みを持ち、マルチツールシナリオでの信頼性を改善している。
どれを選ぶべきか：用途別の指針
| モデル | 最適なシナリオ | コンテキスト長 | 小型モデルの信頼性 |
|---|---|---|---|
| Gemma 4 | エッジ・オンデバイス展開、追加設定なしで深いエージェント統合が必要な場合 | 最大256K（中型以上） | E2B・E4Bでネイティブサポート |
| Llama 3 | LangChain等の既存フレームワーク上で構築、コミュニティリソースを最大活用したい場合 | 最大128K（3.1以降） | 8Bは複数ツール選択で不安定あり |
| Mistral | 中程度のVRAMの制約がある環境で、MoE効率を活かしたツールコーリングが必要な場合 | 最大32K（Small 4） | MoEにより推論コストを抑制 |
ローカル実行環境について
3ファミリーはいずれもOllamaでローカル実行できる。Ollamaはモデルのダウンロード・サービング・APIアクセスをシングルコマンドで処理し、APIリクエストにtools配列を含めると構造化JSONを返す。GUIが必要ならLM Studioがコマンドライン不要で3ファミリーすべてに対応している。
ハードウェア要件の目安は、7B〜12Bクラスであれば8〜16GBのRAMまたはGPU VRAMで動作する。70B以上はハイエンドワークステーションか量子化が必要になる。
詳細はComparing Local Tool Calling: Gemma 4 vs. Llama 3 vs. Mistralを参照していただきたい。
