GitHub · 去对齐工具与仓库·· 11 天前AI 评分42
hallucination-probes：基于 Qwen2.5-7B-Instruct 隐层状态的大模型幻觉跨域检测工具
brainardphilemon/hallucination-probes
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/brainardphilemon/hallucination-probes
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
开源项目 hallucination-probes 用 Qwen2.5-7B-Instruct 全部 29 层 × 3584 维的末答案 token 隐层状态训练幻觉检测器，标签由 BLEURT-20 ≥ 0.5 判定，在多个 QA 数据集上训练并在未见过的 held-out 数据集上评测。工具提供 SALA、MLP、fusion 等方法，支持层池化、PCA 降维与多种损失函数，输出 AUROC 等指标，并可通过 hprobes predict 对新样本打分。
来源：GitHub · 去对齐工具与仓库 · github.com