跳到正文
我的
GitHub · 去对齐工具与仓库·· 1 小时前精选AI 评分60

antiloop-watchdog 发布本地 LLM 循环检测服务

sharenganeye/antiloop-watchdog

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/sharenganeye/antiloop-watchdog

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

antiloop-watchdog 是一个仅依赖 Python 标准库的本地服务,用于检测本地 LLM 智能体的工具循环与文本循环,并接入 Hermes 提供注入恢复协议、拦截重复工具调用和截断循环输出三层处理。作者在 1-bit Qwen 上用病态提示词实测,贪心解码重复 220 次直到耗尽 token,改用 temperature 0.6、top_p 0.9、repeat_penalty 1.1、repeat_last_n 512 后重复降到 37 次、消耗 38 token。项目绑定 127.0.0.1 并带 bearer token,所有 Hermes 侧钩子失败即放行,测试结果为 98 passed、1 skipped。

推荐理由

原文给出了贪心解码与采样参数在 1-bit Qwen 上的重复次数对比,读者可据此判断文本循环该靠采样还是靠看门狗解决。

来源:GitHub · 去对齐工具与仓库 · github.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。