跳到正文
GitHub · 灵魂体仓库·· 3 天前AI 评分50

shaunakmahajan12 开源幻觉检测器:微调 ModernBERT-base 逐句判定 RAG 答案是否有据

shaunakmahajan12/hallucination-detector

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/shaunakmahajan12/hallucination-detector

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

该仓库发布了一个面向 RAG 等有据生成的句子级幻觉检测器,输入来源材料与答案,逐句评分来源是否支持。模型为微调 ModernBERT-base(150M 参数),在 RAGTruth 测试集(18,965 句)F1 0.652、AUROC 0.916,远超 zero-shot NLI 基线(F1 0.197);域外 LLM-AggreFact 上 BAcc 66.1。经 Platt 校准后 ECE 从 0.043 降至 0.016,Docker API 在 CPU 上约 1.2 秒每句,摘要类任务是弱项(F1 0.446)。

来源:GitHub · 灵魂体仓库 · github.com