用户实测 2-bit 量化 DeepSeek 模型与 API 版存在可测差距
先了解这件事
Reddit r/LocalLLaMA 用户 /u/bakawolf123 在本地以 2-bit 量化运行 DeepSeek ds4.1-flash-1017，并用相同提示词与通过 API 调用的 ds4.1 版本对比，测试耗时约 1.5 小时。结果显示两者输出存在明显差距：original 到 oQ2e 的 KDL 为 0.4259 nats，到 oQ2.5e 为 0.2821，困惑度分别为 3.7315、4.1190 和 4.6333，2-bit 版的 top-1 agreement 为 78.43%。 测试条件为使用 450k 上下文并开启自动压缩；因本地未安装 playwright，改用 headless chrome 完成测试。另有用户发帖求证是否有人真正在 1-3 bpw 低量化下实际使用 DeepSeek v4.1-1017，其称此前 v4-0731 的 Q2 版表现远逊于 Q8 版本。
AI 根据报道生成 · 1 小时前更新
事件进展
2 个进展
- 10月28日 20:59 · 1 篇报道询问 DeepSeek v4.1 极低量化实际使用体验Reddit · r/LocalLLaMA：Reddit 用户求证：是否真有人在 1-3 bpw 低量化下实际使用 DeepSeek v4.1-1017
- 10月23日 23:26 · 1 篇报道用户本地实测 2-bit 量化 DeepSeek 模型Reddit · r/LocalLLaMA：本地 2-bit 量化 DeepSeek ds4.1-flash-1017 与云端 API 对比测试
报道时间线
沿着报道，了解事件的不同侧面。
- Reddit · r/LocalLLaMAReddit 用户求证：是否真有人在 1-3 bpw 低量化下实际使用 DeepSeek v4.1-1017
一位 r/LocalLLaMA 用户发帖求证，是否有人真正在 1-3 bpw 的低量化下使用 DeepSeek v4.1-1017，而非仅当新鲜事物尝鲜。作者称此前用过的 v4-0731 Q2 表现远逊于其 Q8 版本，且 Q8 本身约 90% 经 QAT 处理，再降 2 bpw 效果不佳，希望使用者分享与 3.8FN 较高量化对比的体验。
- Reddit · r/LocalLLaMA本地 2-bit 量化 DeepSeek ds4.1-flash-1017 与云端 API 对比测试
一位 Reddit r/LocalLLaMA 用户在本地以 2-bit 量化运行 ds4.1-flash-1017，与 opencode 通过 DeepSeek API 调用的 ds4.1 进行同一提示词对比，测试耗时约 1.5 小时，使用 450k 上下文（开启自动压缩）并以 headless chrome 替代 playwright 完成测试。测得的 KDL 差距较明显：original 到 oQ2e 为 0.4259 nats，original 到 oQ2.5e 为 0.2821，困惑度分别为 3.7315、4.1190 和 4.6333，2-bit 版本的 top-1 agreement 为 78.43%。
本事件热度走势
- 可比范围当前
- 10
- 可比范围峰值
- 1010月24日 00:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。