跳到正文
10月25日周日
  1. GitHub · 灵魂体仓库38

    sonu-2006/finalhidden:基于校准隐藏态探针的医疗 LLM 实时幻觉检测与干预实验

    该仓库基于 RTHD 框架,用轻量探针分类器(Safe / AtRisk / Hallucinating)在解码过程中监测医疗 LLM 隐藏状态,实现幻觉早期检测与模拟干预。作者在 Kaggle 上用 4-bit 量化骨干完成了 4 组试点实验,各 20 条轨迹,分别组合 EndoDiag + Qwen3-8B、MedHallu + BioMistral-7B、MedQA + Mistral-7B-Instruct-v0.3、PubMedQA + Llama-3.1-8B-Instruct;四组 EDR@K 均为 100%,平均提前量 14.85–32.50 tokens,模拟幻觉降低 76.9%–100%。作者指出样本量小、标签由启发式生成、干预为模拟而非实时引导解码。

10月24日周六
10月9日周五
  1. GitHub · 去对齐工具与仓库44

    Raina-Xin/PA_Score:面向 LLM 不确定性量化的保形预测 Paraphrase-Aware 评分开源实现(NeurIPS 2026 Poster)

    Raina-Xin 开源 PA_Score,这是 NeurIPS 2026 poster 论文《Conformal Prediction with Paraphrase-Aware Scoring for LLM Uncertainty Quantification》的官方实现。该方法在 LLM 隐藏表示上训练轻量 proxy 模型并聚合多个改写问题的预测分数,与保形校准结合以降低语义等价改写带来的预测集波动。主流程以 Qwen3-8B 作为答案模型,跨 LLM 实验还使用 Llama-3.1-8B-Instruct 和 Phi-3-small-8k-instruct,在多个 UQ 基准上预测集更紧凑且经验覆盖率接近名义目标。

10月8日周四
  1. GitHub · 灵魂体仓库53

    NYU Abu Dhabi 团队审计四个 LLM:真相标签翻转情绪基调但种族差异依旧

    NYU Abu Dhabi 等机构的研究团队在 GitHub 发布论文数据仓库,审计 GPT-5.4 mini、Claude Haiku 4.5、Llama 4 Scout 和 NVIDIA Nemotron 3 Nano 对事实核查新闻标题的模拟情绪反应。标注 confirmed false 后,GPT、Llama、Claude 的情绪从负面转向正面,六维度合并正面评级从 15% 升至 68%,Claude 的 Confident 评级从 22% 升至 99.6%;但在 84 个统计显著比较中有 82 个显示 Black 人设比 White 人设获得更多负面情绪,标签并未消除人设差异。仓库包含刺激材料、原始输出和聚合评级数据及复现代码。

10月7日周三
  1. GitHub · 去对齐工具与仓库21

    supportyun 开源 llm-survival-time-prediction:微调 Llama-3.1-8B 预测生存时间

    GitHub 上的探索性项目 llm-survival-time-prediction 用合成临床数据微调 meta-llama/Llama-3.1-8B(4-bit 量化 + LoRA),从自然语言患者特征预测期望生存时间。目标值经 Weibull AFT 残差与 Kaplan–Meier、Buckley–James 方式做右删失校正,代表性设置(rank 16、alpha 32、学习率 5e-5)在 3 个数据种子上平均测试 RMSE 为 3.06 ± 0.47 年,原始输出 invalid ratio 为 0%。项目仅用合成数据、以年龄和治疗分组为输入,未与 Cox 等基准模型对比。

  2. GitHub · 去对齐工具与仓库36

    alexchandy13/multicultural-llm-probe:用 CULNIG 扩展拆解 LLM 文化规范漂移中 SFT 与 DPO 的影响

    该仓库基于 Llama 3.2 3B 设置四种条件(base、SFT、DPO、SFT+DPO),用 CULNIG 的 values-based 扩展拆解 SFT 与 DPO 对文化规范漂移的影响。SFT 在 Alpaca 52K 数据上训练 3 个 epoch,DPO 在 HH-RLHF 30K 子样本上训练 2 个 epoch,评测使用 NormAd。项目在 UMIACS Nexus 的 RTX A5000(24GB)上以 QLoRA 4-bit 运行,四个 LoRA adapter 总计不到 1 GB。

  3. arXiv · cs.AI49

    nanoMuse:面向每台个人设备的开源个人智能体

    开源项目 nanoMuse 以 GPL-3.0 协议发布,定位为 Meta 闭源个人智能体 Muse 的开源对应物,可在用户的每台设备上运行,操作手机与电脑屏幕。所有设备通过可自建的 relay 共享同一段对话,每个动作经过 Sentinel 审查,记忆以用户可读的文件保存,模型可自选。论文还定义了个人智能体的五个问题与三个视界,并将带来源的记忆、操作评测套件与配套开源模型列为路线图。

  4. arXiv · cs.CL48

    量化对 Llama 与 Qwen 工具故障恢复的影响因提示词与评测设计而异

    一项 arXiv 研究比较了 Llama-3.1-8B-Instruct 和 Qwen2.5-7B-Instruct 的 8-bit 与 4-bit 量化版本在二十个确定性工具使用任务、五个提示词上的故障恢复表现。8-bit 与 4-bit 的恢复差异随提示词和评测目标改变方向:Llama 在同提示词下双版本无故障通过的任务上差异为 0 到 +20.2 个百分点,Qwen 为 -50.0 到 +35.0 个百分点。研究指出单一提示词、单一任务集和单一评分策略无法得出关于量化智能体稳健性的稳定结论。