8月14日、Olimpiu Popが「Meta Open-Sources Muse Glimmer: A 30B Local Agentic Model Optimised for On-Device Execution」と題した記事を公開した。MetaがApache 2.0ライセンスで公開した30Bパラメータのオンデバイス向けオープンウェイトモデル「Muse Glimmer」を詳しく解説した内容だ。

なぜ今、オンデバイスエージェントなのか

クラウドAPIへの依存は、プライバシーリスク・通信コスト・オフライン環境での制約という3つの問題を抱える。GDPRをはじめとするプライバシー規制が各国で強化される中、推論処理をデバイス上に閉じ込めることへのニーズは高まる一方だ。一方で、30Bクラスのモデルをローカル実行しようとすると、非圧縮状態では55GB超のVRAMが必要となり、コンシューマー向けハードウェアでの運用は現実的でなかった。Muse Glimmerはこのギャップを埋めることを主眼に設計されている。

クラウドAPIなしで動く30Bの自律エージェント

対応ハードウェアの目安は、24GB〜32GBの統合メモリまたはVRAMを搭載したマシン——具体的にはM4/M5 Max搭載のMac、またはRTX 5090・RTX 4090を積んだPCだ。最新世代のRTX 5090にも正式対応しており、ハイエンドコンシューマー向けGPU全般をターゲットとしている。

エラーからの自律回復とスループット向上——2つの差別化技術

Muse Glimmerの最大の特徴は、長期タスクにおける失敗回復と推論スループットの大幅向上にある。

エラーからの自律回復
APIコールやターミナルコマンドがエラーを返した場合、実行を打ち切るのではなく原因を診断して代替パスを試みる。エージェントフレームワーク「OpenClaw」に対応し、実行速度と判断品質のトレードオフを調整できる推論努力量（reasoning effort）のパラメータも提供している。ベンチマーク（SWE-Bench、DeepSearch QA、τ-Bench、MCP-Atlas）では、Gemma 4 31BやQwen 3.6 27Bと比較して、マルチステップのツール信頼性と失敗回復で優位性を示している。汎用コーディングと推論の性能は競合と同等水準とされる。

DFlashスペキュラティブデコーディング
トークンを1つずつ生成する従来方式ではなく、軽量な「ドラフター」モデル（DFlashアーキテクチャベース）が複数トークンのブロックをまとめて提案し、ベースモデルが並列検証する仕組みだ。Apple Silicon（M4/M5 Max）やRTX 5090上では、生成スループットが最大3.1倍に向上するとされる。

メモリを17〜20GBに収める量子化

ハードウェア要件を現実的な範囲に引き下げているもう一つの実装が4ビット動的量子化（K-Quant）だ。モデルの重みをK-Quant方式で4ビット圧縮し、フットプリントを約17〜20GBに削減する。残ったメモリ帯域をKVキャッシュ、Perceptionエンベディング、投機的デコードのオーバーヘッドに割り当てられる。

3段階のトレーニング戦略

Muse Glimmerは、Metaの大規模フラッグシップモデル「Muse Spark」（社内開発の非公開クローズドモデル）から知識を引き継ぐ多段階学習で構築されている。

• ロジット蒸留（事前学習）： Muse Sparkと同じ事前学習データセット構成を用いて基礎的な推論能力を転移。
• ミッドトレーニング： 長文コンテキスト、複雑な推論トレース、テキストと画像が混在したデータ、マルチステップのツール呼び出し軌跡でスケールアップ。
• ポストトレーニングアライメント： SFT（教師ありファインチューニング）、オンポリシー蒸留、強化学習（RL）を組み合わせてコード生成・ツール使用・構造的計画立案の性能を調整。

また、1.8Bパラメータの専用Perceptionエンコーダを内蔵しており、スクリーンショット・図・ドキュメントをコード実行中にインライン解釈できる。マルチモーダル入力をローカルで完結できる点は、プライバシー要件が厳しい用途では特に意味を持つ。

対応フレームワークと入手先

モデルの重みは**Hugging Faceで公開済み。ローカル実行フレームワークとして、llama.cpp、ExecuTorch、Apple MLX、Ollama、LM Studio、vLLMのネイティブ対応が整備されている。ファインチューニングはPyTorchのTorchTuneフレームワーク**経由でサポートされる。ライセンスはApache 2.0で、商用利用も可能だ。

詳細はMeta Open-Sources Muse Glimmer: A 30B Local Agentic Model Optimised for On-Device Executionを参照していただきたい。