跳到正文
10月25日周日
  1. GitHub · 灵魂体仓库61

    llm-deployment-benchmarks 实测开源模型何时能替代 Claude Opus 5.5

    作者发布 llm-deployment-benchmarks 项目,在 Fireworks AI 上做两组实验,比较开源模型与 Claude Opus 5.5 的准确率、延迟和成本。支持工单分诊任务中,GPT-OSS 120B 以 34–45 倍更低成本追平 Claude Opus 5.5,9B 模型响应快 4–7 倍也打平,而对含噪标签微调反而变差;国际象棋任务中,对 73k 局面的微调把合法走子率从 36% 提到 71%,但最佳走子准确率仍是 3%,只有前沿级开源模型 Ember-1 接近 Claude,约为每步 4 倍时间和成本。

    推荐理由:作者用支持工单分诊和国际象棋两类任务实测开源模型与 Claude Opus 5.5 的差距,结论是 prompt 质量常比模型大小更关键。

10月8日周四
  1. Reddit · r/LocalLLaMA39

    Qwen3.8-27B 微调模型对比评测:mradermacher/Signal-3.8-27B-Terse-Coder 胜出,与 Opus 5.5 等前沿模型基线对比

    作者用 469 题领域评测对比多个 Qwen3.8-27B 微调模型,mradermacher/Signal-3.8-27B-Terse-Coder.i1-Q4_K_M 在准确率、token 用量和完成时间上最优,仅 1 次超限。Opus 5.5 以 99.6% 准确率居首,但本地模型比前沿模型慢 28 倍(19 分钟 vs 9 小时),换取约 100% 的隐私。gpt-oss-120b 在 pandas/numpy 任务上表现糟糕,评测工具已开源。