Liquid AI 发布 LFM2.5-VL-DSpark：3B 视觉模型加草稿模型，解码最高提速 3.13 倍
据 Liquid AI 博客 2026 年 9 月发布内容，Liquid AI 为开放权重视觉语言模型 LFM2.5-VL-3B 推出实验性 DSpark 草稿模型，新增约 2.8 亿参数（相对 3B 目标模型增加 8.9%），声称设备端解码最高提速 3.13 倍、H100 最高 2.66 倍，首日支持 llama.cpp、MLX-VLM 与 SGLang。
发生了什么
Liquid AI 于 2026 年 9 月发布实验性 DSpark 草稿模型，配套其视觉语言模型 LFM2.5-VL-3B。据厂商博客，该草稿模型沿用文本版 LFM2.5-DSpark 的架构思路：在固定接入层捕获目标模型隐藏状态，据此起草一批候选 token；图像 patch 与文本 token 在进入这些层前被投影到共享表示空间，因此草稿模型处理的是维度一致的隐藏状态，推理算法与文本模型一致。草稿模型采用 4 层、仅含注意力的结构，block size 为 9，约 2.795 亿参数，分解为解码器堆栈 1.93 亿、隐藏状态投影 2100 万、Markov head 6550 万、Norms 与置信度 head 6400。厂商称在 M5 Max 上用 MLX 各任务解码提速 2.30 至 3.13 倍、端到端 1.56 至 2.62 倍；M3 Ultra 上用 llama.cpp 解码 1.57 至 2.14 倍；H100 上解码与端到端提速数据在原文中疑似存在排版异常。厂商强调投机解码是精确的，目标模型验证每个被提议 token，贪心输出与单独使用目标模型相同，草稿模型以 Safetensors 和 GGUF 两种格式在 Hugging Face 提供。
对开发者的影响
对在本地或边缘设备部署多模态模型的开发者，这条发布的意义不在于绝对速度数字，而在于草稿模型与目标模型的参数量之比——约 8.9%，意味着显存和内存占用增量可控。但多数加速比是解码阶段指标，端到端收益取决于工作负载中视觉编码与 prefill 的占比，厂商自己也引用了 Amdahl 定律来解释这一点。这带来一个分叉：以长输出、多轮对话或图像描述为主的场景可能接近厂商宣称的端到端数字；以单次长图问答、需要先处理大量视觉 token 且很快结束的场景，收益会明显更小。此外，运行草稿模型依赖尚未合入主线或需要特定构建的 llama.cpp、MLX-VLM、SGLang 分支，集成成本不能忽略。需要注意的是，截至本文核对时，KimiSeek 现行模型目录中没有 LFM2.5-VL-3B 或 LFM2.5-VL-DSpark 的条目，来源所涉 API 与权重可用性均为厂商口径。
接入与评估建议
建议一：先测量你的负载中解码占总时延的比例再决定是否引入草稿模型。来源提到投机解码只加速解码、不加速视觉编码与 prefill，且边缘设备上 prefill 占端到端延迟比例更高。前提是你已能获取首 token 延迟与解码耗时的分项数据，推荐用同一组六类视觉任务（通用 VQA、文本 VQA、图像描述、图表 VQA、复杂推理、多轮对话）跑基线与草稿模型两套配置，评估指标取端到端延迟分位数而非只取解码吞吐。若你的负载以短图长文输出为主，草稿模型可能划算；若以单轮长图问答为主，收益上限受 prefill 制约。建议二：在 llama.cpp 与 SGLang 之间按部署形态选型，而不是按宣称的峰值加速。来源给出两者的具体启动方式不同：SGLang 通过 --speculative-dspark-block-size 等参数挂载草稿模型，并明确要求关闭 radix cache；llama.cpp 侧需要 --spec-type draft-dspark 并配合 --spec-draft-n-max 8。前提是你使用的构建包含对应 PR，否则这些参数不可用。评估时建议记录每次响应的 draft_n 与 draft_n_accepted，据接受率判断 block size 取 8 还是 9 更合适，接受率偏低时应回头检查任务分布是否偏离训练数据混合。这些属于推荐做法，不是厂商承诺。
限制与待确认事项
第一，截至本文核对时，KimiSeek 现行模型目录中没有 LFM2.5-VL-3B 或 LFM2.5-VL-DSpark 的精确条目，因此该版本目前未在 KimiSeek 上架；来源中提到的权重下载、格式与集成方式均属厂商口径，不代表本站可用性。第二，厂商原文中 H100 一处的解码提速区间写为“20.4 倍到 2.66 倍”，存在明显排版或转录异常，此处不应作为可靠上限引用。第三，厂商自述草稿模型为实验性，其 4 层结构与 block size 9 来自 3、4、5 层消融，训练数据混合按预期负载加权，因此接受率和加速比会随实际任务分布漂移。第四，加速数字来自厂商在 M5 Max、M3 Ultra、H100 上的自测，并按 MMSpec 基准的六类任务评估，其他硬件、量化格式、上下文长度与批处理设置下的表现未经独立验证。第五，来源将模型描述为开放权重并可自由下载、微调、部署，但博客未给出具体许可证条款；权重可获取不等于具备开源许可，商用与再分发权利需以 Hugging Face 模型页的实际许可为准。
原报道配图
