8月10日、Meta Superintelligence Labsが「Introducing Muse Glimmer: An Open Agentic Model That Runs on Your Device」と題した記事を公開した。クラウドに送信することなく、手元のGPU上でエージェントが自律的にツールを呼び出し、失敗を自己診断して再試行する——そうした体験をコンシューマハードウェアで実現するオープンな30Bパラメータモデル「Muse Glimmer」の詳細が明らかになった。
「24GBのGPUで動くエージェントモデル」の何が面白いか
クラウド依存のLLMが主流の現状で、Muse Glimmerが真っ先に訴求するのはローカル実行だ。インターネット接続なしでエージェントが動き、スケジュール管理・ファイル操作・コーディング補助といった個人情報を扱う用途でもデータが外部に出ない。
30Bパラメータという規模は、フル精度では55GB超のメモリを要する。これを後述の量子化によって24GBまたは32GBのコンシューマGPU（あるいはMacBook）で動作するところまで圧縮したのが本モデルの核心だ。エージェントとしての精度を維持しながらローカル実行を成立させるために、量子化と推論高速化の両輪を組み合わせた設計になっている点が技術的な読みどころといえる。
ライセンスはApache 2.0。商用利用を含む自由な使用が可能で、モデルの重みはHugging Faceで公開されている。
24GBに収めるための2つの技術
①量子化：55GB → 20GB以下
フル精度（BF16）のまま使えば55GB超のメモリが必要だが、4ビット量子化を適用することで言語モデル本体を20GB以下に圧縮する。採用されている量子化方式はK-Quantと呼ばれる手法で、重みを低ビット整数に変換しながらブロック単位のスケール係数で精度劣化を抑えるものだ（GGUF/llama.cppで標準的に使われる量子化形式の一種）。さらに17GBに抑えた「K-Quant-17GB」バリアントも用意されており、KVキャッシュ・画像認識用の知覚エンコーダ・後述のドラフタモデルを合わせても24〜32GBのメモリエンベロープに収まる設計だ。
この圧縮によるエージェントタスクへの精度劣化は「minimal to no degradation」とされており、公開されているメソドロジーレポートに比較表が掲載されている。
②Speculative Decoding（DFlashドラフタ）：最大3.1倍の高速化
言語モデルは通常1トークンずつ逐次生成するため、長い推論チェーンでは体感速度が遅くなる。Speculative Decodingはこの制約を緩和する手法で、軽量な「ドラフタ」モデルが複数トークンをまとめて先読みし、メインモデルがそれを並列で検証・修正する構造をとる。最終的な出力品質は通常の逐次生成と同一に保ちながら、スループットを大幅に改善できる。
Muse GlimmerではDFlashをベースにした軽量なドラフタモデルを同梱しており、実測値は以下のとおりだ：
- RTX 5090：3.1倍高速化
- M5 Max：1.8倍高速化
- M4 Max：1.5倍高速化
エージェントとしての機能
Muse Glimmerが訴求するエージェント機能は以下のとおりだ：
- ツール呼び出し：拡張されたワークフロー全体で正確なスキーマによるファンクションコールに対応
- マルチステップ推論：長い作業計画を一貫して維持する
- 失敗からの回復：ツール呼び出しが失敗した場合、停止せず原因を診断して再試行
- マルチモーダル入力：専用の知覚エンコーダでテキストと画像を混在入力できる（スクリーンショット・チャート・ドキュメントの解釈に対応）
- スキャフォールド互換性：OpenClawおよびその他のエージェントオーケストレーションパターンに対応。なおOpenClawはMetaが開発したオープンソースのエージェントオーケストレーターで、ツール呼び出しや状態管理のフローを定義するフレームワークに相当する
- 多言語対応：100言語以上のデータで学習
訓練の構成
訓練は以下の3段階で実施された：
- Pre-Training：より大規模な上位モデル「Muse Spark」の出力を使ったロジット蒸留。Muse SparkはMuse Glimmerの上位に位置するMetaのフラッグシップエージェントモデルで、Glimmerはその知識を蒸留する形で訓練されている
- Mid-Training：長コンテキスト・エージェント寄りのデータと有機的データを組み合わせた継続学習
- Post-Training：教師ありファインチューニングにオンポリシー蒸留と強化学習を組み合わせ、汎用・推論・コーディング・エージェントの各ドメインをカバー
安全性についてはMeta's Advanced AI Scaling Frameworkの基準で評価されている。
性能比較
同サイズクラスのオープンモデルとして、Gemma4-31B（Googleが公開する約31Bパラメータのマルチモーダルモデル）およびQwen3.6-27B（Alibabaが公開する約27Bパラメータの推論特化モデル）との比較が示されている。エージェント・コーディング・マルチモーダル・推論の各ベンチマークで、これら同サイズクラスの中で競争力のある結果を示しているとされる。詳細な評価データはメソドロジーレポートを参照のこと。
今すぐ使い始めるには
Hugging Faceからモデルの重みをダウンロードできる。近日中に以下のツール・フレームワークへの対応が順次追加される予定だ：
- ローカル実行：Ollama、LM Studio、Unsloth、llama.cpp、ExecuTorch、MLX
- 大規模サーブ：vLLM、SGLang
- クラウド経由：Together AI、Fireworks AI、OpenRouter
- カスタマイズ：PyTorchのTorchTitan
ハードウェア最適化についてはAMD、Arm、Dell、Intel、NVIDIAとの連携も進んでいる。開発者向けのドキュメントはMeta AI Developer Centerおよびdev.meta.ai/docsで公開されている。
詳細はIntroducing Muse Glimmer: An Open Agentic Model That Runs on Your Deviceを参照していただきたい。
