Reddit · r/LocalLLaMA· /u/challis88ocarina·· 18 天前AI 评分34
llama.cpp 中 MTP 搭配 GLM 5.3 Flash 解码速度首次超过 ds4
MTP in llama.cpp now decodes competitively with ds4 using GLM 5.3 Flash
来源与原文
Reddit · r/LocalLLaMA
作者：/u/challis88ocarina
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x0unn5/mtp_in_llamacpp_now_decodes_competitively_with/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit 用户发现 llama.cpp 的 MTP 配合 GLM 5.3 Flash 在 Apple Silicon 上解码速度首次超过 ds4（含 M3U 调优），pp 速度仍较慢。作者提到 vanilla ds4 目前为 65 t/s（并发 75 t/s），并称 Qwen38FN 将是真正考验。但作者随后补充，MTP 对生成质量影响巨大，结果不可用。
来源：Reddit · r/LocalLLaMA · reddit.com