Strata 量化格式怎么选：GSQ-RCO IQ3_S、NVFP4 还是 Unsloth UD-Q4_K_XL？

一位 Reddit r/LocalLLaMA 用户在 Ryzen 7 9800X3D、RTX 4090、64 GB RAM 的系统上运行 Strata（使用 Qwen Flash Next），硬件已接近该模型的可运行极限，发帖求助量化格式选择。事件尚无测试结论，仅有该用户提出的待比较选项。其称有讨论认为 GSQ-RCO IQ3_S 的响应质量可能优于 Unsloth UD IQ4_XS；并提到若选 UD-Q4_K_XL，需约 6 GB 模型从 NVMe 加载，速度降至 20-30 tokens/s。该用户还询问 NVFP4 在此场景下的表现对比。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。