Hugging Face Blog·· 2026-09-24精选AI 评分63
LiquidAI 发布 LFM2.5-VL-3B 的 DSpark 草稿模型,解码加速最高 3.13x
Accelerating vision-language models with LFM2.5-VL-DSpark
来源与原文
Hugging Face Blog
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/blog/LiquidAI/lfm2-5-vl-dspark
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
LiquidAI 发布视觉语言模型 LFM2.5-VL-3B 的实验性 DSpark 草稿模型,通过投机解码在不改变输出质量的前提下换取推理提速。解码加速在端侧最高 3.13x、H100 上最高 2.66x,端到端延迟分别提升 1.56x-2.62x 和 1.64x-2.27x;草稿模型约 280M 参数,仅增加 8.9% 参数量。
推荐理由
原文给出4层注意力 drafter 的结构与分任务实测加速数据,并解释预填充阶段为何限制端到端收益。
来源:Hugging Face Blog · huggingface.co