跳到正文
10月25日周日
  1. GitHub · 灵魂体仓库38

    sonu-2006/finalhidden:基于校准隐藏态探针的医疗 LLM 实时幻觉检测与干预实验

    该仓库基于 RTHD 框架,用轻量探针分类器(Safe / AtRisk / Hallucinating)在解码过程中监测医疗 LLM 隐藏状态,实现幻觉早期检测与模拟干预。作者在 Kaggle 上用 4-bit 量化骨干完成了 4 组试点实验,各 20 条轨迹,分别组合 EndoDiag + Qwen3-8B、MedHallu + BioMistral-7B、MedQA + Mistral-7B-Instruct-v0.3、PubMedQA + Llama-3.1-8B-Instruct;四组 EDR@K 均为 100%,平均提前量 14.85–32.50 tokens,模拟幻觉降低 76.9%–100%。作者指出样本量小、标签由启发式生成、干预为模拟而非实时引导解码。

10月13日周二
  1. GitHub · 灵魂体仓库39

    kunhailP/llm-welfare-discretion:研究 LLM 如何裁量大规模福利案件与"值得救助"线索的 GitHub 工作仓库

    该仓库研究大语言模型在美国 SNAP 福利案件中是否让法律不允许的"值得救助"线索(求职努力、失业可控性)影响裁决。预注册后续实验显示:向 Qwen3-14B/32B 提供中间计算量可完全消除线索效应(准确率 0.95-1.00),Qwen3-8B 无此效果(资格判定 0.68-0.74),Ministral-3-8B 部分改善(0.56/0.40→0.85/0.59)。GPT-5 复测 1554 条生成子样本全部达 1.00,0 线索翻转。

10月9日周五
  1. arXiv · cs.CL48

    CAST:面向跨 Tokenizer 在策略蒸馏的信用对齐方法

    CAST(Chunk-aware credit Assignment with Selective Token Anchoring)是一种 shift-or-stay 框架,解决跨 tokenizer 在策略蒸馏中的信用分配问题:对已对齐 chunk 按预测不确定性和教师信号平滑度重新分配优势,对未对齐位置用 KL 惩罚将学生锚定在初始策略上。在六个数学、科学和代码 benchmark 上,CAST 从 Qwen3-8B 向 Mistral-7B 和 Llama-3.1-8B 跨 tokenizer 迁移时,平均分别超过最强基线 2.45 和 1.32 分,向共享 tokenizer 的 Qwen3-1.7B 迁移时超过 2.10 分。