GitHub · 3D 生成新仓库·· 12 天前AI 评分33
M.U.T.E:用线性探针在生成前检测小模型缺失上下文风险的实验项目
swnotmetal/mute
来源与原文
GitHub · 3D 生成新仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/swnotmetal/mute
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 开源项目 M.U.T.E(Middle-layer Uncertainty Threshold Engine)在 LLM 生成前检查内部表示,用线性探针估计缺失上下文风险,超过阈值即中止解码并弃答。实验基于 Qwen/Qwen3.5-0.8B,用逻辑回归探针在 40 个构造样本上做五折交叉验证,多个中间层(含 Layer 23)达到 100% 准确率;反事实测试显示补入缺失信息后风险分数从 0.879 等降至约 0.01。项目为实验性概念验证,不微调基座模型,也非通用幻觉检测器。
来源:GitHub · 3D 生成新仓库 · github.com