跳到正文
我的
热点事件持续更新

fortil 发布编排席位模型 A/B 评测工具

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

fortil 发布 orchestrator-ab,一个 A/B 测试工具,用来测量哪个 Claude 模型、在哪个 effort 档位更适合担任编码智能体流水线的编排者。示例运行共 18 次,每个组合跑 3 次、只用一个小任务;流水线部分可替换。 结果出现两种衡量口径的分歧:Opus 在 low effort 下每次有效运行都完整跑完流水线且保持静默,seat token 约为纪律完整的 Haiku high 的三分之一;但按 API 计费,Haiku 的 cache read 为 $0.05/MTok、Opus 为 $0.20,Haiku high 每次运行的编排成本反而约为三倍便宜。作者称原始 token 数不等于美元成本,且 effort 比模型更决定纪律性:高 effort 每次都跑完整流水线,medium 为三分之二,low 为三分之一。作者还提示每周用量上限可能在批次中途终止运行。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月8日
  1. GitHub · 去对齐工具与仓库精选
    orchestrator-ab:实测 Claude 各模型担任编码智能体流水线编排者的表现

    fortil 发布 orchestrator-ab,一个 A/B 测试工具,用来测量哪个 Claude 模型、在哪个 effort 档位更适合担任编码智能体流水线的编排者。示例运行共 18 次,Opus 在 low effort 下每次有效运行都完整跑完流水线且保持静默,seat token 约为另一条纪律完整的 Haiku high 的三分之一;但按 API 计费 Haiku 的 cache read 为 $0.05/MTok、Opus 为 $0.20,Haiku high 每次运行的编排成本反而约为三倍便宜。作者称 effort 比模型更决定纪律性,高 effort 每次都跑完整流水线,medium 为三分之二,low 为三分之一。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月8日 01:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。