热点事件持续更新

LlamAmpere v0.6.3 发布 Qwen Flash Next 量化模型

1 篇报道1 个报道来源14 小时前更新

先了解这件事

AI 综述

Reddit 用户 Brief-Tap-6616 发布 LlamAmpere v0.6.3，附带新的 Qwen Flash Next 量化模型与量化更新。作者称该模型在 100K 深度下约 120+ TPS，误差比几天前同卡型的 QFN 版本低 50%，比 UD 改进版量化低 27%；前 100K 的 prefill 超过 3000/s。作者还给出一个比上述版本快约 10% 的 3XS 级别文件，但因质量仅比原 Strata 3bpw 模型好约 15% 而不推荐。该版本适用于 12+64GB 配置，作者不建议在总内存低于 54GB 的配置上使用任何 QFN 量化。

AI 根据报道生成 · 14 小时前更新

报道时间线

沿着报道，了解事件的不同侧面。

11月7日

04:16
Reddit · r/LocalLLaMA精选
LlamAmpere v0.6.3 发布 Qwen Flash Next 量化模型，误差比 Strata 3XS 低 50%
LlamAmpere v0.6.3 发布新的 Qwen Flash Next 量化模型与量化更新，在 100K 深度下约 120+ TPS，误差比几天前同卡型的 QFN 版本低 50%，比 UD 改进版量化低 27%。作者称前 100K 的 prefill 超过 3000/s，并给出一个比上述版本快约 10% 的 3XS 级别文件，但因质量仅比原 Strata 3bpw 模型好约 15% 而不推荐。该版本也适用于 12+64GB 配置，作者不建议在总内存低于 54GB 的配置上使用任何 QFN 量化。

本事件热度走势

可比范围当前: 7
可比范围峰值: 1011月7日 05:00
近 24 小时变化: –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。