Reddit · r/LocalLLaMA· /u/awitod·· 7 天前AI 评分18
QFN 量化与 CUDA 选择讨论：Qwen3.8-Flash-Next 在 Strata 与 5090/4090 工作站上的实测
QFN Strata, Gufo, quants and cuda questions
来源与原文
Reddit · r/LocalLLaMA
作者：/u/awitod
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xaco01/qfn_strata_gufo_quants_and_cuda_questions/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一位用户在 5090+4090（152GB 总内存）工作站和 128GB 内存的 Strix Halo 上测试 Qwen3.8-Flash-Next 的不同量化版本，发现 ISTA-DASLab 的 GSQ-RCO-GGUF（Q3_S）效果最好，unsloth 较大量化则出现大量 tool calling 问题。Strata 上没有这些问题，且其针对 QFN 调整了 LlamaCpp，但存在一类无法绕过的坏输出错误；Gufo 仅适用于 Strix Halo。作者询问 CUDA 平台还有哪些可选方案。
来源：Reddit · r/LocalLLaMA · reddit.com