GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分59
egnaro9 开源 model-drift:追踪 LLM 质量与速度漂移的公开观测看板
egnaro9/model-drift
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/egnaro9/model-drift
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
作者 Erik Hill 在 GitHub 开源 model-drift,一个 LLM 可观测性看板:冻结测试集按计划对 17 个在线模型每日各跑 35 个任务、每模型 3 次取中值,追踪准确率、速度、冗长度、可靠性与拒绝率五个指标,约 1,800 次调用每晚成本仅几美分。35 个任务全部由确定性评分器(精确匹配、子串、正则、数值比较)机械打分,温度设为 0(拒绝该参数的模型除外);可靠性低于 50% 的运行不计入准确率点,identity.py 通过回显的模型 id 检测别名或路由降级。
推荐理由
作者详细说明了确定性评分器、可靠性指标与三次取中值等设计,读者可以据此评估漂移追踪工具如何区分真实回归与采样噪声。
来源:GitHub · 去对齐工具与仓库 · github.com