Reddit · r/LocalLLaMA· /u/zyxciss·· 6 小时前精选AI 评分73
Betelgeuse 引擎让 Qwen 3.8 Flash Next 在 RTX 3060 12GB 上跑到 22 tok/s 且 100% bit-exact
Betelgeuse: Running Qwen 3.8 Flash Next at 22 tok/s sustained (spiking to 48 tok/s) on an RTX 3060 12GB + 16GB DDR4 RAM 100% bit-exact!
来源与原文
Reddit · r/LocalLLaMA
作者：/u/zyxciss
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xk8s6z/betelgeuse_running_qwen_38_flash_next_at_22_toks/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
作者发布 Betelgeuse（bel-cli/bel-server，llama.cpp 分支），在 RTX 3060 12GB + 16GB DDR4 上以 22.03 tok/s 持续、峰值 48 tok/s 运行 68GB 的 Qwen 3.8 Flash Next GSQ-RCO-IQ2_XS 构建，输出与原版逐字节一致（28,080 条 router 记录与 576 个 token 0.000e+00 diff）。
推荐理由
作者给出与原版逐字节一致的输出校验和三套引擎的实测对比表，可在低配硬件上复现这套不丢专家的 MoE 推理加速方案。
来源：Reddit · r/LocalLLaMA · reddit.com