GitHub · 去对齐工具与仓库·· 1 小时前精选AI 评分60
antiloop-watchdog 发布本地 LLM 循环检测服务
sharenganeye/antiloop-watchdog
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/sharenganeye/antiloop-watchdog
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
antiloop-watchdog 是一个仅依赖 Python 标准库的本地服务,用于检测本地 LLM 智能体的工具循环与文本循环,并接入 Hermes 提供注入恢复协议、拦截重复工具调用和截断循环输出三层处理。作者在 1-bit Qwen 上用病态提示词实测,贪心解码重复 220 次直到耗尽 token,改用 temperature 0.6、top_p 0.9、repeat_penalty 1.1、repeat_last_n 512 后重复降到 37 次、消耗 38 token。项目绑定 127.0.0.1 并带 bearer token,所有 Hermes 侧钩子失败即放行,测试结果为 98 passed、1 skipped。
推荐理由
原文给出了贪心解码与采样参数在 1-bit Qwen 上的重复次数对比,读者可据此判断文本循环该靠采样还是靠看门狗解决。
来源:GitHub · 去对齐工具与仓库 · github.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。