Liquid AIは、LFM2.5ファミリーの3モデル向けにDSparkのドラフトモデル（DSpark draft model checkpoints）を公開しました。
対象はLFM2.5-1.2B-Instruct、LFM2.5-2.6B、LFM2.5-8B-A1Bで、いずれも既存のターゲットモデルに対して推論を加速するドラフト経路を追加します。
約300Mパラメータのドラフトが9トークンの候補ブロックを提案し、ターゲットモデルは1回のフォワードパスでそのブロック全体を検証します。
出力は変化せず、greedy decodingではターゲット単体と同一の系列が生成されるため、ベンチマーク精度は維持されるとしています。
速度面では、H100で最大3.18倍、M4 MaxのMacBook Proで最大2.87倍のデコード高速化が報告されています。
また、llama.cppとSGLangはいずれもday-oneでDSpark対応しており、自己ホストすれば導入可能です。
ただし、受け入れ率に速度が左右され、ワークロードにより1.04倍から3.18倍まで変動すると説明しています。
特にLFM2.5-8B-A1Bは、M4 Max平均で1.18倍にとどまる弱点も示されました。
さらに、ツール呼び出しを伴うエージェントの多段推論では、LFM2.5-2.6Bで平均57%のレイテンシ削減効果があるとしています。
参照元：2026/08/21 「Liquid AI Releases LFM2.5-DSpark Draft Models That Deliver Up to 3.18x Faster Decoding Without Changing Model Outputs」 https://www.marktechpost.com/2026/08/20/liquid-ai-releases-lfm2-5-dspark-draft-models-that-deliver-up-to-3-18x-faster-decoding/
この記事へのリアクション
このニュースをどう受け止めましたか？
コメント