Reddit · r/LocalLLaMA· /u/Queasy_Asparagus69·· 3 小时前AI 评分50
Raon-1-mini-preview（28.8B/4.3B MoE）在 hipfire 上原生运行，但 prefill 慢约 200 倍、decode 慢约 10 倍
Raon-1-mini-preview (28.8B/4.3B MoE) on hipfire, 7900 XT: runs natively, but ~200× slower prefill / ~10× slower decode than llama.cpp
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Queasy_Asparagus69
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xitxzt/raon1minipreview_288b43b_moe_on_hipfire_7900_xt/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit 用户将 KRAFTON 的 Raon-1-mini-preview（28.8B/4.3B MoE）移植为 hipfire 原生 MQ4，在 20 GB 7900 XT（ROCm 7.1）上实测：llama.cpp（Q4_K_M）pp512 达 2,055 t/s、decode 47.4 t/s，hipfire 仅 12.6 t/s 与 4.6 t/s，prefill 慢约 200 倍、decode 慢约 10 倍。该版本文件比官方 GGUF 小 1.29 GB，混合架构（RDA 线性注意力 + gated MLA + mHC streams + 128-expert MoE）原生运行，与 GGUF 的 mean KL 为 2.06、top-1 51.6%。
来源：Reddit · r/LocalLLaMA · reddit.com