Raon-1-mini-preview 移植 hipfire 原生 MQ4：prefill 慢约 200 倍
先了解这件事
Reddit 用户将 KRAFTON 的 Raon-1-mini-preview（28.8B/4.3B MoE）制作成 hipfire 原生 MQ4 量化，并在 20 GB 7900 XT（ROCm 7.1）上实测。结果是其混合架构（RDA 线性注意力 + gated MLA + mHC streams + 128-expert MoE）可在 hipfire 上原生运行，但性能明显慢于 llama.cpp 的 Q4_K_M：pp512 仅 12.6 t/s（对照 2,055 t/s），decode 4.6 t/s（对照 47.4 t/s），即 prefill 慢约 200 倍、decode 慢约 10 倍。该版本文件比官方 GGUF 小 1.29 GB，与 GGUF 的 mean KL 为 2.06、top-1 一致率 51.6%。作者说明这些 hipfire 数据为单次运行，且未跑基准测试套件，不能说明绝对质量。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Reddit · r/LocalLLaMARaon-1-mini-preview（28.8B/4.3B MoE）在 hipfire 上原生运行，但 prefill 慢约 200 倍、decode 慢约 10 倍
Reddit 用户将 KRAFTON 的 Raon-1-mini-preview（28.8B/4.3B MoE）移植为 hipfire 原生 MQ4，在 20 GB 7900 XT（ROCm 7.1）上实测：llama.cpp（Q4_K_M）pp512 达 2,055 t/s、decode 47.4 t/s，hipfire 仅 12.6 t/s 与 4.6 t/s，prefill 慢约 200 倍、decode 慢约 10 倍。该版本文件比官方 GGUF 小 1.29 GB，混合架构（RDA 线性注意力 + gated MLA + mHC streams + 128-expert MoE）原生运行，与 GGUF 的 mean KL 为 2.06、top-1 51.6%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。