Reddit · r/LocalLLaMA· /u/PlasticRevenue4601·· 11 天前AI 评分29
无人谈论的 Qwen Flash Next:潜在 SOTA 级 Q2 量化
Qwen Flash Next potential SOTA Q2 nobody talks about
来源与原文
Reddit · r/LocalLLaMA
作者:/u/PlasticRevenue4601
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x7bboy/qwen_flash_next_potential_sota_q2_nobody_talks/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit 用户实测 Agantai 的 GYRO 系列量化 GYRO-M,称其在 KLD、top 1 和体积上同时优于 ISTA-lab 的量化。3 天测试中未出现循环问题,最长自主运行 2-3 小时,速度与 ISTA 2 bit 量化相当,整体接近 ISTA q3 水平但体积更小,仅在西里尔文本编辑上偶有出错。
来源:Reddit · r/LocalLLaMA · reddit.com