跳到正文
Reddit · r/LocalLLaMA· /u/PlasticRevenue4601·· 11 天前AI 评分29

无人谈论的 Qwen Flash Next:潜在 SOTA 级 Q2 量化

Qwen Flash Next potential SOTA Q2 nobody talks about

来源与原文

Reddit · r/LocalLLaMA

作者:/u/PlasticRevenue4601

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1x7bboy/qwen_flash_next_potential_sota_q2_nobody_talks/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Reddit 用户实测 Agantai 的 GYRO 系列量化 GYRO-M,称其在 KLD、top 1 和体积上同时优于 ISTA-lab 的量化。3 天测试中未出现循环问题,最长自主运行 2-3 小时,速度与 ISTA 2 bit 量化相当,整体接近 ISTA q3 水平但体积更小,仅在西里尔文本编辑上偶有出错。

来源:Reddit · r/LocalLLaMA · reddit.com