Reddit · r/LocalLLaMA· /u/jesdga95·· 1 天前精选AI 评分61
Basalt 0.2.0 发布：Qwen 3.8 Flash Next 在 5090+5060 Ti 上跑出 300 t/s prose、600 t/s struct
Basalt 0.2.0: Qwen 3.8 Flash Next NVFP4, 300 t/s prose, 600 t/s struct, 10K t/s prefill on a 5090 + 5060 Ti and 128GB RAM
来源与原文
Reddit · r/LocalLLaMA
作者：/u/jesdga95
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xn4qn1/basalt_020_qwen_38_flash_next_nvfp4_300_ts_prose/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Basalt 0.2.0 发布，这是面向 Qwen 3.8 Flash Next 的 Blackwell 专用推理引擎，新增 NVFP4-DQ8 量化版本（KLD 0.0561 vs DQ6_K 的 0.0624，prose 约 7% 更慢）。
推荐理由
作者用 BF16 全精度作参照给出各量化的 KLD 对比，同时列出 5090 双卡实测速度，质量与速度数据都比较完整。
来源：Reddit · r/LocalLLaMA · reddit.com
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。