Reddit · r/LocalLLaMA· /u/returnity·· 1 天前AI 评分44
PSA:Qwen3.8-Flash-Next 用户应升级到 DFlash2,平均提速 +17%
PSA: Upgrade Flash Next to DFlash2 if you haven't! +17% on average
来源与原文
Reddit · r/LocalLLaMA
作者:/u/returnity
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xjlgm4/psa_upgrade_flash_next_to_dflash2_if_you_havent/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
DFlash2 现已获得 llama.cpp v0.8.0 支持,作者自量化 GGUF drafter 后在 Apple Silicon M5 Max 上实测:几何平均速度从 MTP 的 75.1 tps 提升至 87.9 tps(+17%),其中 list 场景 +39%,仅 prose 略降 3%。Q4_0 draft head 仅约 350MB(MTP 为 2.2GB),且与 Q8_0 无速度或接受率差异;25K 长上下文时 DFlash2 与 MTP 大致持平,此外该版本支持图像输入。
来源:Reddit · r/LocalLLaMA · reddit.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。