跳到正文
GitHub · 3D 生成新仓库·· 12 天前AI 评分33

M.U.T.E:用线性探针在生成前检测小模型缺失上下文风险的实验项目

swnotmetal/mute

来源与原文

GitHub · 3D 生成新仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/swnotmetal/mute

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 开源项目 M.U.T.E(Middle-layer Uncertainty Threshold Engine)在 LLM 生成前检查内部表示,用线性探针估计缺失上下文风险,超过阈值即中止解码并弃答。实验基于 Qwen/Qwen3.5-0.8B,用逻辑回归探针在 40 个构造样本上做五折交叉验证,多个中间层(含 Layer 23)达到 100% 准确率;反事实测试显示补入缺失信息后风险分数从 0.879 等降至约 0.01。项目为实验性概念验证,不微调基座模型,也非通用幻觉检测器。

来源:GitHub · 3D 生成新仓库 · github.com