跳到正文
今天10月27日周二2 条
  1. Reddit · r/LocalLLaMA42

    KLD 并非最佳量化评测指标:蒸馏后还有 SFT 与 RL 阶段

    作者认为 KLD 不是衡量量化模型优劣的唯一指标:蒸馏中 KL 损失优化之后,模型还会经历 SFT 和 RL 阶段,任务能力提升的同时 KLD 反而可能变差,且在热门 benchmark 上优化还会导致 benchmaxxing。KLD 只适合作为基于代表性数据(尤其是 base model 自生成数据)的初筛,真正选型应用自己的日常任务构建私有 benchmark 来测试。

10月25日周日
  1. Reddit · r/LocalLLaMA38

    月之暗面(Kimi)K3.1 Pro 与 DeepSeek 4.1 Flash 1017 对比:提升有限引 LocalLLaMA 网友讨论

    LocalLLaMA 网友认为 Kimi K3.1 Pro 的成绩相比 DeepSeek 4.1 Flash 1017 并没有明显提升。K3 量化的情况下仍很难在本地运行且速度慢,因为单个 token 要经过 104 个激活层;DeepSeek 4.1 Flash 1017 成绩接近、占用更小、速度更快。该网友因此打算继续用 4.1 Flash 1017,而对 11 月 4 日发布的 K3 Pro 开放权重持观望态度。

  2. Reddit · r/LocalLLaMA42

    KLD 被误解了:量化模型评估指标的局限分析

    KLD 衡量量化模型与基座模型在各 token 上概率分布的差异平均值,但不能作为量化模型的通用质量排名。作者指出用随机文本(如 Wikipedia 文章)计算 KLD 不代表模型推理时看到的自生成 token,建议改用基座模型生成数据并对提示词 token 计零权重;且校准数据与评估数据同源、或对量化 scale 参数做微调,都会让 KLD 虚高。KLD 只能作诊断工具,不能反映模型实际任务表现。

10月21日周三
  1. Reddit · r/SillyTavernAI28

    2026 年 10 月五大 RP 模型盘点,你怎么看?

    Reddit 用户 Pirx32 分享了 10 月自选的五大 RP 模型。首选 Gemini 4 Argon,文笔生动有电影感,还能讲笑话,但价格已接近其预算上限,OpenRouter 折扣结束后更难负担;Gemini 3.8 Flash 仍是价格与质量的最佳平衡。Haiku 5.5 用于组织 prompt 的 XML 标签、负责 prompt 架构;Mimo 2.6 Pro 首条回复出色但随后文本矛盾、逻辑崩坏;DeepSeek 4.1 Flash 1017 逻辑更强但文风干涩、句子短碎。

10月16日周五
10月14日周三
10月8日周四
10月7日周三
  1. Reddit · r/LocalLLaMA18

    LocalLLaMA 社区呼吁:模型评测请给出误差棒

    Reddit r/LocalLLaMA 用户质疑模型发布时仅凭几个百分点的 benchmark 提升就宣称进步的做法。文中估算:HumanEval 仅 164 题,约 70% 得分的标准误差约 3.5 个点,GSM8K(约 1.3k 题)约 1 个点,2 个点的“提升”很可能在噪声范围内,且提示词模板、few-shot 示例、eval harness 版本和污染都会造成波动。

10月6日周二
  1. Reddit · r/LocalLLaMA29

    模型发布后的“降智”感受是否只是均值回归?

    模型发布后常出现“第一周惊艳、一个月后被削弱”的感受,作者以 Opus 5.5 为例,探讨这是否只是均值回归:把发布周的高光与日常输出比较、损失厌恶、最佳用例耗尽或迭代投入减少都可能造成错觉。作者建议通过盲测 A/B 对比(类似 Arena)来区分真实性能下降与主观感受。

  2. Reddit · r/LocalLLaMA27

    GLM 5.3 Flash 与腾讯 Hy3 对比:谁更值得用?

    作者在测试后选出两个胜者:GLM 5.3 Flash 和腾讯 Hy3。实测中 Hy3 风格更紧凑但易丢失细节,GLM 5.3 Flash 更精确但风格较平庸;公开 benchmark 上 GLM 5.3 Flash 明显占优。作者就智能体循环、编程、通用助手与创意写作等场景征求两模型的使用者意见。