GitHub · 去对齐工具与仓库·· 21 分钟前精选AI 评分58
llm-drift-monitor 发布 LLM 行为漂移监控工具
chandresh-pandey-ml/llm-drift-monitor
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/chandresh-pandey-ml/llm-drift-monitor
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
chandresh-pandey-ml 发布 llm-drift-monitor,用固定提示词面板定期探测模型回答,通过 KS、z 与 MMD 检验对比基线与近期窗口,检测回答长度、拒答率和语义分布的变化。项目在合成数据上给出校准结果:单次检验假警报率约 3.7% 至 5.0%,三检验合并经 Benjamini-Hochberg 校正后为 1.9%;要求标记连续两个周期才告警的规则平均延迟 0.97 天、每 100 天 0.2 次假警报。作者同时说明漂移只是线索而非质量结论,行为特征与分布检验互补,生产规模下按类别定位的召回率很低。
推荐理由
项目用合成数据给出假警报率、检测延迟与漂移作为质量代理的实测数字,读者可据此判断监控方案是否值得复用。
来源:GitHub · 去对齐工具与仓库 · github.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。