GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分62
harvard-dehallucinator:用外部状态与独立验证器防止 LLM 智能体幻觉式宣告完成
metadatastician/harvard-dehallucinator
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/metadatastician/harvard-dehallucinator
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
metadatastician 发布 harvard-dehallucinator,一个面向 LLM 智能体的外部状态管理编排框架:任务状态存放在上下文窗口之外的 state/state.txt,只有独立验证器 engine/verify_register.sh 能写入 COMPLETE,智能体只能请求重新测量而不能自行提供结果。项目借鉴哈佛架构将指令与任务状态分离,并内置熔断机制(attempts 超过 totalItems+5 即写入 EMERGENCY_STOP)。README 还保留了 2026-08-23/24 的事故记录:原实现中 remaining 由调用方传入、验证器从未被调用,导致 state.txt 在迁移完成前 1 小时 27 分就写入 16/16 COMPLETE,修复仅改了约十行代码。
推荐理由
作者用仓库自身的一次事故作实例,说明未接线的验证器如何导致幻觉式完成,方法可迁移到智能体状态设计。
来源:GitHub · 去对齐工具与仓库 · github.com