harvard-dehallucinator:用外部状态与独立验证器防止 LLM 智能体幻觉式宣告完成
metadatastician 发布 harvard-dehallucinator,一个面向 LLM 智能体的外部状态管理编排框架:任务状态存放在上下文窗口之外的 state/state.txt,只有独立验证器 engine/verify_register.sh 能写入 COMPLETE,智能体只能请求重新测量而不能自行提供结果。项目借鉴哈佛架构将指令与任务状态分离,并内置熔断机制(attempts 超过 totalItems+5 即写入 EMERGENCY_STOP)。README 还保留了 2026-08-23/24 的事故记录:原实现中 remaining 由调用方传入、验证器从未被调用,导致 state.txt 在迁移完成前 1 小时 27 分就写入 16/16 COMPLETE,修复仅改了约十行代码。
推荐理由:作者用仓库自身的一次事故作实例,说明未接线的验证器如何导致幻觉式完成,方法可迁移到智能体状态设计。