8月10日、Meta Research AIが「Introducing Muse Glimmer: An Open Agentic Model That Runs on Your Device」と題した記事を公開した。300億パラメータのエージェント型モデルをコンシューマーGPU1枚で動かし、ライセンスはApache 2.0——Metaがオンデバイス推論の実用ラインを大きく引き下げた。
オープンウェイト×オンデバイス推論——なぜ今これが重要か
大規模モデルのほとんどはクラウド依存だ。ネット接続が前提で、プライベートなデータをサーバーに送ることへの懸念は常にある。スケジュール管理やメッセージ下書き、ファイル整理といった「常時稼働する個人エージェント」を実現するには、プライベートなコンテキストへの深いアクセスが不可欠であり、クラウド送信が前提のアーキテクチャでは成立しない用途がある。Muse Glimmerはこのトレードオフに正面から答えようとするモデルだ。
300億パラメータのエージェント向けモデルを、コンシューマーGPU1枚で動かす——これがMuse Glimmerの核心だ。ライセンスはApache 2.0（商用利用・改変・再配布が自由）で、ウェイトはHugging Faceで即日公開されている。
このモデルを開発したのはMeta傘下のMeta Superintelligence Labsだ。同組織は2025年にMetaが設立した研究・開発部門で、従来のLlamaシリーズを引き継ぐ形でMuseブランドへの移行を主導している。Muse Glimmerはそのブランドにおける最初のオープンリリースにあたる。
24GB/32GBに収めるための2つの最適化
300億パラメータをフル精度で動かすには55GB超のメモリが必要になる。コンシューマーGPUの現実からはかけ離れた数字だ。Metaはこれを2つの手法で実用域に引き下げた。
1. 量子化（Quantization）で20GB以下に圧縮
ウェイトを約4bit精度に圧縮することで、言語モデル本体を20GB未満に削減。さらに最小構成のK-Quant-17GBバリアントも提供する。24GBや32GBのGPUメモリ内に、KVキャッシュ（推論時の中間状態を保存する領域）・画像理解用のPerception Encoder・後述のSpeculative Decodingドラフターを同時に載せるための設計だ。
元記事では、この圧縮がエージェントタスクにおいてほぼ精度劣化なしと評価されていると報告されている。
2. Speculative Decoding（投機的デコード）で生成速度を大幅向上
言語モデルは通常1トークンずつ逐次生成するため、長い推論チェーンや複数ツール呼び出しを含むエージェントワークフローでは待機時間が問題になる。
Muse GlimmerはMetaが開発したDFlash（投機的デコードに特化した軽量ドラフター手法）をベースにしたモデルを同梱する。ドラフターが複数トークンをまとめて提案し、メインモデルが並列で検証・修正するという仕組みだ。出力品質は通常の逐次生成と同一で、速度だけが上がる。
実測では以下のとおりだ：
RTX 5090で3.1倍、M5 Maxで1.8倍、M4 Maxで1.5倍の速度向上が確認されている。
モデルの主な能力
エージェントとして機能するために必要な能力を一通り備えている：
- エンドツーエンドのタスク完遂：DeepSearch QA、MCP-Atlas、τ-Bench、SWE-Benchなどのベンチマークで評価済み
- ツール呼び出し：拡張ワークフロー全体を通じた精確なスキーマでの関数呼び出し
- マルチステップ推論：複雑な長期ワークフローでの一貫した計画維持
- 障害回復：ツール呼び出し失敗時に停止せずエラーを診断して再試行
- マルチモーダル入力：テキストと画像を混在して受け付け、スクリーンショットや図表の解釈が可能
- スキャフォールド互換性：OpenClaw（Metaが開発したエージェントオーケストレーション基盤。複数のエージェントやツールを統合・制御するフレームワークで、Muse Glimmerの標準連携先として位置づけられている）などと連携
- 制御可能な推論強度：品質と速度のバランスを選択可能
- 100言語以上の多言語対応
ベンチマーク：同サイズクラスとの比較
ベンチマークではGemma4-31BおよびQwen3.6-27Bと比較されており、エージェント・コーディング・マルチモーダル・安全性・推論の各領域で同サイズクラスの競合モデルと肩を並べる性能を示している。
訓練の構成
大規模な教師モデル「Muse Spark」（Metaが開発したMuseシリーズの大規模フラッグシップモデル）からの知識蒸留を中心に、3フェーズで訓練されている：
- Pre-Training：Muse Sparkの出力を使ったLogit蒸留（教師モデルの出力確率分布を学習に利用する手法）
- Mid-Training：長コンテキスト・エージェント重点のデータと豊富な推論トレースを追加
- Post-Training：教師あり微調整（SFT）と強化学習を組み合わせ、汎用・推論・コーディング・エージェントの各領域をカバー
利用開始
公開時点では、llama.cpp、MLX、ExecuTorch向けの最適化済みインテグレーションが順次追加される予定だ。Ollama、LM Studio、Unslothでのローカル実行、vLLMやSGLangでのサーバー展開、Together AI・Fireworks AI・OpenRouterでのクイックスタートにも対応する。AMD、Arm、Dell、Intel、NVIDIAとのパートナーシップによるデバイス横断の最適化も進行中だ。
カスタマイズにはPyTorchのTorchTitanが使える。詳細はMeta AI Developer Centerおよび開発者ドキュメントにまとめられている。
詳細はIntroducing Muse Glimmer: An Open Agentic Model That Runs on Your Deviceを参照していただきたい。
