sonu-2006/finalhidden:基于校准隐藏态探针的医疗 LLM 实时幻觉检测与干预实验
该仓库基于 RTHD 框架,用轻量探针分类器(Safe / AtRisk / Hallucinating)在解码过程中监测医疗 LLM 隐藏状态,实现幻觉早期检测与模拟干预。作者在 Kaggle 上用 4-bit 量化骨干完成了 4 组试点实验,各 20 条轨迹,分别组合 EndoDiag + Qwen3-8B、MedHallu + BioMistral-7B、MedQA + Mistral-7B-Instruct-v0.3、PubMedQA + Llama-3.1-8B-Instruct;四组 EDR@K 均为 100%,平均提前量 14.85–32.50 tokens,模拟幻觉降低 76.9%–100%。作者指出样本量小、标签由启发式生成、干预为模拟而非实时引导解码。