跳到正文
Reddit · r/LocalLLaMA· /u/dampflokfreund·· 19 天前AI 评分23

Qwen Flash Q2_0 与 IQ2_XS GSQ-RCO 量化对比测试(基于 Strata)

Qwen Flash Q2_0 vs IQ2_XS GSQ-RCO using Strata

来源与原文

Reddit · r/LocalLLaMA

作者:/u/dampflokfreund

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1x0j0ae/qwen_flash_q2_0_vs_iq2_xs_gsqrco_using_strata/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Reddit r/LocalLLaMA 用户对比测试了 Qwen Flash 的 Q2_0 与 IQ2_XS GSQ-RCO 两种量化版本在旧笔记本上的表现。结果显示 IQ2_XS 更好地保留了世界知识,但比 Q2_0 更容易出现循环输出,尤其在关闭思考模式时;IQ3 则严重拖慢 prefill。两者在基准测试中各有优势领域,作者邀请其他用户分享使用体验。

来源:Reddit · r/LocalLLaMA · reddit.com