GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分63
Pecca 开源:把流水线中固定输出的 LLM 调用替换为 CPU 模型
pecca-core/pecca
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/pecca-core/pecca
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Pecca 在 GitHub 开源,用于找出流水线中只返回固定标签的 LLM 调用,用已记录的输出训练 CPU 模型,先以 shadow 模式与 LLM 并行对照,通过门槛后切换为 live,LLM 降级为置信度低于阈值时的 fallback。支持 OpenAI、Bedrock、Claude 或本地模型作为被替换对象,含 tournament 式候选模型选择、置信度校准、audit pack,以及 gates、approvals、evidence 等六项治理原语,全部经 pecca.yaml 配置;通过 pip install pecca 安装,支持 Python 3.11-3.13,Apache-2.0 许可。
推荐理由
原文完整给出了从记录日志、shadow 对照到带治理门槛上线的替换流程,读者可以据此评估把固定输出的 LLM 调用换成 CPU 模型的可行性。
来源:GitHub · 去对齐工具与仓库 · github.com