8月20日、MarkTechPostが「Liquid AI Releases LFM2.5-DSpark Draft Models That Deliver Up to 3.18x Faster Decoding Without Changing Model Outputs」と題した記事を公開した。Liquid AIが投機的デコーディング（Speculative Decoding：小さなドラフトモデルがトークン列を先読みし、大きなターゲットモデルが一括検証することでスループットを上げる手法）を用いてモデル出力を変えずに最大3.18倍の推論高速化を実現するドラフトモデル「LFM2.5-DSpark」を公開した。
Liquid AIとLFM2.5ファミリーの位置づけ
Liquid AIは、MITの研究から生まれたスタートアップで、Transformerとは異なるアーキテクチャに基づく独自の基盤モデルシリーズ「LFM（Liquid Foundation Model）」を開発・公開している。LFMは液体状態方程式（Liquid State Machine）に着想を得た設計を採用しており、同規模のTransformerモデルと比較して推論効率の高さを特徴として訴求している。
今回公開された「LFM2.5」は同シリーズの最新世代で、複数のサイズバリアントが存在する。そのうち「LFM2.5-8B-A1B」はMoE（Mixture of Experts：複数の専門化されたサブネットワークを持ち、入力に応じて一部だけを活性化するアーキテクチャ）構成を採用しており、パラメータ総数8Bに対して推論時に活性化されるのは1Bにとどまる設計だ。今回のDSparkドラフトモデルはこのLFM2.5ファミリー向けに提供される高速化オプションとして位置づけられる。
出力を変えずに最大3.18倍速──投機的デコーディングが実用段階へ
Liquid AIは今回、自社のLFM2.5ファミリー向けに以下の3つのDSpark対応ドラフトモデルを公開した。
ドラフトモデルはいずれも約300Mパラメータで、9トークンのブロックを提案し、ターゲットモデルが1回のフォワードパスで検証する構造だ。greedy decoding時の出力はターゲットモデル単独実行と完全に一致するため、ベンチマーク精度は変化しない。
DSpark技術の中身
DSparkは3つのコンポーネントで構成される。
- DFlashスタイルの並列バックボーン：ターゲットモデルのコンテキスト特徴を条件として、全ドラフトトークンの隠れ状態を1回のフォワードパスで生成する。
- 軽量な逐次ヘッド：隣接トークン間をランク256のMarkov連鎖でモデル化し、ブロック後半の位置でのトークン受理率（acceptance rate：ドラフトモデルが提案したトークンのうちターゲットモデルが実際に採用する割合）を改善する。
- 確信度スケジューリング付き検証器：各トークンの生存確率を予測し、検証コストが節約量を上回る場合に末尾トークンを枝刈りする。
なお、受理率はDSparkの効果を左右する中核指標であり、後述の速度向上データもこの値に大きく依存する。ドラフトモデルは語彙重みを持たず、埋め込み層とLMヘッドはロード時にターゲットから流用する。2.6BドラフトのリポジトリサイズはBF16で655MBで、これが実質的なメモリ追加コストとなる。
計測された速度向上の実態
計測は1xH100（BF16、SGLang経由）とM4 Max MacBook Pro（llama.cpp、Metal、FP16 GGUF）で実施。ブロックサイズ9、バッチサイズ1、temperature 0で、MATH500・HumanEval・MBPP・GSM8K・MT-Benchを対象にしている。
| ターゲット | H100 平均 | H100 最大 | M4 Max 平均 | M4 Max 最大 |
|---|---|---|---|---|
| LFM2.5-1.2B-Instruct | 2.10x（656→1384 tok/s） | 2.56x（MATH500） | 2.54x（138→350 tok/s） | 2.87x（HumanEval） |
| LFM2.5-2.6B | 2.67x（323→864 tok/s） | 3.06x（MATH500） | 2.27x（61→139 tok/s） | 2.63x（HumanEval） |
| LFM2.5-8B-A1B | 2.54x（418→1074 tok/s） | 3.18x（MATH500） | 1.18x（90→106 tok/s） | 1.44x（GSM8K） |
重要なのは速度向上がワークロードに強く依存する点だ。同じLFM2.5-8B-A1BでもMATH500では10トークン中8.27トークンが受理されH100で3.18倍になる一方、GSM8Kでは受理率が4.02まで下がり1.29倍にとどまる。1.2BモデルのMT-Benchでは受理率3.90、H100での向上は1.66倍だ。
Apple Silicon上のMoEモデルは明確な弱点がある。LFM2.5-8B-A1BはM4 Maxで平均1.18倍しか向上しない。Liquid AIはこれをllama.cppのMetalバックエンドにおける現行のMoE実装と、k個のトークンを検証する際により多くのエキスパートが活性化されることによるウェイト転送コスト増加に起因すると説明している。
実用上の最大の恩恵：エージェント用途での57%低遅延
Liquid AIが報告する最も大きな実利益はマルチツール関数呼び出しシナリオだ。LFM2.5-2.6Bを使った場合、DSpark導入でレイテンシを平均57%削減できるとしている。ツール呼び出しのたびに推論を実行するエージェントでは、デコードコストがユーザーターンごとに複数回発生するため、この効果が積み重なる。
SGLangでの起動方法
SGLangでは以下のコマンドでターゲットモデルにドラフタをアタッチして起動できる。
python -m sglang.launch_server \
--model-path LiquidAI/LFM2.5-2.6B \
--speculative-algorithm DSPARK \
--speculative-draft-model-path LiquidAI/LFM2.5-2.6B-DSpark \
--speculative-draft-attention-backend flashinfer \
--disable-radix-cache --mem-fraction-static 0.75 --port 30000
ブロックサイズはドラフタのconfig.jsonから自動読み込みされる。ベースライン計測は--speculative-*フラグ3つを除いた同コマンドで行える。llama.cppとSGLangはともにリリース初日からDSpark対応済みだ。
ライセンスと利用条件
ウェイトはLFM Open License v1.0の下で配布される。年間売上1000万ドル未満の企業であれば無償で商用利用可能で、それ以上の企業はLiquid AIへの連絡が必要だ。Hugging Face上のホスト型推論では現時点では利用できず、セルフホストが前提となる。SafetensorsとGGUFの両形式で提供されている。
詳細はLiquid AI Releases LFM2.5-DSpark Draft Models That Deliver Up to 3.18x Faster Decoding Without Changing Model Outputsを参照していただきたい。
