Liquid AI发布LFM2.5-VL-3B-DSpark：面向多模态大模型的推测解码加速方案

推测解码驱动的VLM加速新路径

Liquid AI正式发布LFM2.5-VL-3B-DSpark——一款面向其自研视觉语言大模型LFM2.5-VL-3B的实验性推测解码（speculative decoding）draft模型。该drafter本身约含2.795亿参数，仅使整体部署参数量提升8.9%，且完全不改变原模型的生成结果。团队实测显示，在Apple M5 Max芯片上解码速度最高提升3.13倍，在单卡NVIDIA H100 80GB上达2.66倍；端到端推理延迟亦获得显著优化，最高提升2.62倍（M5 Max）与2.27倍（H100）。

开源即用：跨平台推理支持落地

该模型已开放权重，格式涵盖Safetensors与GGUF，同步上线Hugging Face。主流开源推理框架已实现开箱即用：SGLang v0.5.19+支持通过`--speculative-algorithm DSPARK`调用；MLX-VLM v0.7.2+在Apple硅芯片设备上可通过`--draft-model`加载（当前仅支持greedy采样，需设temperature=0）；llama.cpp则可直接配对使用GGUF格式的drafter与目标模型。所有集成代码均以公开PR形式提交至对应仓库。项目采用LFM Open License v1.0授权，允许年营收低于1000万美元的企业免费商用。

架构设计：模态无关的统一推理范式

DSpark沿用Liquid AI此前在纯文本模型中验证的推测解码范式，核心创新在于其“模态不可知”（modality-agnostic）设计。团队指出，当图像块（image patches）与文本token共同进入模型隐层后，二者均已转化为标准张量（tensors），因此无需为视觉语言任务单独设计drafter架构。LFM2.5-VL-3B-DSpark采用精简的attention-only结构，共4层解码器（193.0M参数）、隐藏状态投影层（21.0M）、Markov头（65.5M）及归一化+置信度头（6.4k），总计279.5M参数。Embedding与LM Head复用目标模型，不额外引入参数。

性能验证：覆盖六大VLM任务的系统性评测

评测基于MMSpec基准，涵盖通用视觉问答（General VQA）、文本视觉问答（Text VQA）、图像描述（Image Captioning）、图表问答（Chart VQA）、复杂推理（Complex Reasoning）及多轮对话（Multi-turn Conversation）六类任务。测试统一采用batch size=1、temperature=0、16-bit视觉编码器与主干权重，并依托Liquid AI自建公共设备基准平台Pipette采集数据。结果显示：在MLX-VLM（M5 Max）上，解码加速2.30–3.13×，端到端加速1.56–2.62×，每步接受token数3.24–4.34个；在llama.cpp（M3 Ultra）与SGLang（H100）上亦保持稳定增益。值得注意的是，最高解码加速（如COCO captioning）与最高端到端加速（如MMMU-Pro）常来自不同任务，表明性能收益高度依赖具体工作负载与drafter适配度。

加速边界与质量保障机制

推测解码仅加速自回归解码阶段，图像编码与prefill阶段不受影响。在边缘设备上，prefill耗时占比更高，导致端到端加速比解码加速更有限——这符合Amdahl定律：整体加速上限受未优化环节制约。例如TextVQA任务在M5 Max上解码快2.69×，但端到端仅快1.56×。输出质量方面，greedy模式下目标模型逐token验证，输出与基线模型完全一致；非零温度下，理论证明其仍严格保有原模型的token分布，但实测发现温度升高会降低token接受率与吞吐量，因候选token分歧增多。

编者观点：中国AI基础设施厂商可重点关注推测解码在端侧VLM部署中的工程价值，尤其在苹果生态与国产ARM平台上的轻量化适配路径。