fortil 发布编排席位模型 A/B 评测工具
先了解这件事
fortil 发布 orchestrator-ab,一个 A/B 测试工具,用来测量哪个 Claude 模型、在哪个 effort 档位更适合担任编码智能体流水线的编排者。示例运行共 18 次,每个组合跑 3 次、只用一个小任务;流水线部分可替换。 结果出现两种衡量口径的分歧:Opus 在 low effort 下每次有效运行都完整跑完流水线且保持静默,seat token 约为纪律完整的 Haiku high 的三分之一;但按 API 计费,Haiku 的 cache read 为 $0.05/MTok、Opus 为 $0.20,Haiku high 每次运行的编排成本反而约为三倍便宜。作者称原始 token 数不等于美元成本,且 effort 比模型更决定纪律性:高 effort 每次都跑完整流水线,medium 为三分之二,low 为三分之一。作者还提示每周用量上限可能在批次中途终止运行。
AI 根据报道生成 · 3 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- GitHub · 去对齐工具与仓库精选orchestrator-ab:实测 Claude 各模型担任编码智能体流水线编排者的表现
fortil 发布 orchestrator-ab,一个 A/B 测试工具,用来测量哪个 Claude 模型、在哪个 effort 档位更适合担任编码智能体流水线的编排者。示例运行共 18 次,Opus 在 low effort 下每次有效运行都完整跑完流水线且保持静默,seat token 约为另一条纪律完整的 Haiku high 的三分之一;但按 API 计费 Haiku 的 cache read 为 $0.05/MTok、Opus 为 $0.20,Haiku high 每次运行的编排成本反而约为三倍便宜。作者称 effort 比模型更决定纪律性,高 effort 每次都跑完整流水线,medium 为三分之二,low 为三分之一。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1011月8日 01:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。