Reddit · r/LocalLLaMA· /u/Queasy_Asparagus69·· 4 天前精选AI 评分59
Swift-1.5-Qwen3.8-27B 推出 hipfire MQ4 量化版，7900 XT 上端到端约 2.2 倍于 Q4_K_S GGUF
Swift-1.5-Qwen3.8-27B in hipfire for AMD cards: ~2.2x faster end-to-end than Q4_K_S GGUF on a 7900XT
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Queasy_Asparagus69
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xcwkfi/swift15qwen3827b_in_hipfire_for_amd_cards_22x/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit 用户 /u/Queasy_Asparagus69 将 Swift-1.5 微调版 Qwen3.8-27B 量化为 hipfire 的 MQ4 格式并附带 MTP 头用于投机解码，目标是让 AMD 用户获得比 llama.cpp 更快的速度。在 RX 7900 XT 20GB、ROCm 7.1 环境下，Prefill 快约 1.4–1.85 倍，16K 上下文约 1100 tok/s（llama.cpp 约 700）；带 MTP 的真实 prompt 解码 36.5 tok/s（τ≈1.94），16–49K 上下文为 52–59 tok/s。六个约 10–20K token 的真实 Rust 编码任务全套耗时 237 秒，对 llama.cpp 的 530 秒，端到端快 2.24 倍。
推荐理由
作者在同一块 7900 XT 上用真实 Rust 任务给出与 llama.cpp 的逐项速度对比，数据足够具体可复现。
来源：Reddit · r/LocalLLaMA · reddit.com