跳到正文
10月7日周三
  1. Hugging Face Blog79

    Nemotron 3 微调后达到 IMO 2026 与 IOI 2026 金牌水平

    NVIDIA 基于 Nemotron 3,通过 SFT、RL 和反馈驱动推理分别构建了达到 IMO 2026 和 IOI 2026 金牌水平的系统。IOI 2026 上 Nemotron-3-Ultra-CC 得 535.4/600,高于 361.12 的金牌线和 498.27 的人类最高分;IMO 系统用 SFT 与 RL 检查点加 generate-verify-refine 流程得 30/42,超过 29 分金牌线,全程仅用自然语言,无形式化证明器或外部工具。SFT/RL 检查点、训练数据集、含 200 道竞赛题的 Nemotron-IMO-Bench 及 NeMo-Skills 推理管线已在 Hugging Face 开放。

    推荐理由:原文完整给出了两个项目的训练数据规模、各阶段分数和可复用的四步特化配方,权重、数据和推理管线都已开放。

  2. arXiv · cs.CL28

    惩罚框架下的无效选项 MCQA:分析 LLM 在无正确选项时的弃权行为

    一项 arXiv 研究(AACL-IJCNLP 2026 短文)提出惩罚框架下的无有效选项 MCQA 设定,在 MMLU-Pro 数学子集上移除标注正确选项,允许模型选择剩余选项或输出 ABSTAIN 并对无效强制作答施加惩罚。实验表明,高 MCQA 准确率并不能完全保证弃权可靠性:即使在明确的无有效选项指令和惩罚计分下,模型仍会对部分原本答对的题目给出无效强制作答,揭示了标准选择题准确率无法反映的可靠性维度。

  3. arXiv · cs.CL40

    让 COMET 跨文字系统可比:诊断并修正分词器导致的印度语系 MT 评测文字偏差

    研究发现 COMET 翻译评测分数受目标语言书写系统影响:在 IndicMT Eval 上,文字身份解释了母语文字分数方差的 22.9%,与标注者的一致性在全部五种语言中均下降。COMET-QN 可将各 (language, script) 组合映射到统一参考分布,使混合一致率从 0.300 升至 0.399,且保证语言内排序不变;基于 parity 特征的回归器再恢复 17.1% 的灵敏度,剩余偏差属编码器,无法通过后处理修复。论文被 WMT 2026 接收。

  4. arXiv · cs.CL34

    Symphony for Text Generation:临床笔记生成的基准评测(MedConv 数据集 + ACI-BENCH 对比 Corti 与通用 AI 语音记录工具)

    研究者发布 MedConv 多语言数据集(含英、丹、德三语共 300 例临床就诊记录),并结合 ACI-BENCH 基准,将临床 AI 平台 Corti 与两款基于通用 AI 的主流环境式语音记录软件进行对比。评测框架结合蕴含指标与 LLM 判 pairwise 比较,覆盖 PDSQI-9 的八个维度。结果显示 Corti 的 API 文本生成能力与商业语音记录工具相当或更优,且其可配置 API 可针对具体文档场景微调质量维度,数据集已开源以支持可复现比较。

  5. arXiv · cs.CL36

    问题出在读出方式:细粒度情绪识别基准测的是引出方式而非感知能力

    一项新研究显示,现成的视觉语言模型(VLM)从 logits 中按类别逐一读取答案时,其表现可匹敌甚至超过细粒度情绪识别基准 EmoNet-Face-HQ 的微调模型 Empathic-Insight-Face(EIF Small/Large)。在验证设置下,十一个开源权重 VLM 全部超过专家一致性锚点(κ_w=0.468),达到 κ_w=0.507-0.586,其中三个显著优于 EIF Small 的 κ_w=0.551。收益来自分级概率而非是非问答:将同一概率二值化会损失 142% 的平均收益。

  6. arXiv · cs.CL53

    arXiv 论文提出免训练两阶段低秩补偿方法,改进大语言模型极端量化精度

    arXiv 论文(https://arxiv.org/abs/2610.08164)提出免训练的两阶段闭式低秩量化误差补偿框架:Stage 1 以 Fisher 加权非对称目标将各层输出对齐全精度模型,Stage 2 在补偿后模型上做秩约束自然梯度步吸收剩余一阶信号,每个 adapter 只需一次截断 SVD。在 2 bit QuIP# 下,Qwen3-8B 的 WikiText-2 困惑度从 12.43 降至 10.26,Qwen3-4B 从 21.11 降至 13.22;在 C4 上相对最强基线(31%/63%)分别恢复 51% 和 84% 的到 FP16 的差距,并在更高位宽和另一量化器下保持增益。

    推荐理由:论文指出既有低秩量化误差补偿的两个共同简化,并用两阶段闭式框架在 2 bit 极端量化下给出可复现的困惑度改进。

  7. arXiv · cs.CL30

    STRUCTURALCOST:用于建模人类句子加工难度的自定步速阅读数据集

    STRUCTURALCOST 是一个包含 475 名参与者、40,800 条观测的自定步速阅读数据集,用于分离长距离主谓依存解析的加工成本。研究在 NLP 规模上复现了心理语言学发现:主句动词处的阅读时间随依存长度增加,且受句法嵌入而非仅线性距离驱动。n-gram、SSM 和 Transformer 等模型只能部分反映这一难度曲线,并低估人类的整合成本,说明它们捕捉了预测成分但未捕捉工作记忆带来的整合成本。

  8. arXiv · cs.CL55

    arXiv 论文受控评估分层检索的记忆深度与重建上下文宽度

    Michael Andreev 在 arXiv 发布论文(arXiv:2610.08300,已被 NeurIPS 2026 PALM Workshop 接收),用 EverMemBench 受控评估对话长期记忆中结构深度与上下文宽度两个参数的作用。结果显示上下文从 1K 扩到 4K 可让 Accuracy 提升 10.11-17.98 个百分点,而加深记忆层次无单调收益;超过 8-16K 后 Production 条件性能进入平台期但每个正确答案的 token 开销持续上升,Oracle 条件在 68-71K token 完整档案上保持质量。

    推荐理由:论文用受控实验比较记忆结构的深度与上下文宽度,给出了随宽度变化的量化收益和平台期数据,方法可复用于长期记忆系统评估。

  9. arXiv · cs.CL27

    语言不可对齐性:为什么某些概念无法进行跨文化 benchmark 评测

    一篇 arXiv 立场论文指出,多语言 LLM 评测依赖的“翻译同构假设”对语用标记、敬语、历时分层词汇等概念在原理上不成立,并定义了 α-unalignability 形式化刻画。论文用 usage-cloud 框架给出三层证据:FLORES-200 翻译失败与语系和资源等级相关而与文字无关,以及九模型 Yami 案例中的 Representation-Intervention Gap。作者提出 Cycle-Consistency、Pragmatic-Load Disagreement、Manifold-Curvature Mismatch 与 RIG 构成的多维诊断框架。

  10. arXiv · cs.CL47

    CoDe-LoRA:通过知识巩固与解耦缓解 LLM 持续学习中的正交困境

    CoDe-LoRA 是一种免回放的大语言模型持续学习方法,用于解决 O-LoRA 等正交投影方法因严格参数隔离导致跨任务知识难以迁移积累的“正交困境”。该方法将学习拆解为巩固通用知识与解耦任务特定知识,借助自适应零空间投影和语义路由实现平衡。在 4 个骨干模型和 3 个持续学习基准上取得最佳平均准确率,代码已开源。

  11. arXiv · cs.CL48

    Foresight-over-Graph:超越局部视野的知识库问答推理框架

    研究者提出 Foresight-over-Graph(FoG),一种面向知识库问答(KBQA)的前瞻式证据检索框架,通过迭代构建问题相关证据子图、远到近反馈引导路径探索,并以紧凑记忆子图支持持续探索,克服现有逐跳贪婪剪枝的短视问题。FoG 在常用 KBQA 基准上达到 SOTA,其中 CWQ 的 Hit 提升 16.58%,同时减少 LLM 调用和 token 用量。代码已开源,论文被 NeurIPS 2026 接收。

  12. arXiv · cs.CL49

    研究揭示 LLM 何时该拒答:潜在欠规范信号的跨域与多轮泛化

    一项 arXiv 研究构建了含 423 段对话、1,661 个标注 turn-states 的多轮基准,用六个数据集和六个开源权重 LLM 检验「不可回答性」探测信号。数学与阅读理解(SQuAD 2.0、MuSiQue)间探测迁移稳健(AUROC 0.77-0.97 与 0.77-0.90),但单轮探测零样本无法识别对话何时变得可回答。基于校准探测的门控无需微调即可远超随机水平地识别欠规范回合,端到端成功率距真实标签门控仅差 0.08,但并未稳定优于普通生成,主要差距在模型如何利用澄清而非检测本身。

  13. arXiv · cs.CL44

    重新思考跨 tokenizer 在线蒸馏:从对齐覆盖到监督可靠性

    一项 arXiv 研究检验跨 tokenizer 在线蒸馏(OPD)中的序列与词表对齐问题。在三个异构师生模型对的数学推理与代码生成任务上,严格 1:1 对齐位置已覆盖绝大部分学生生成 token;将 reverse KL 限制在共享词表中学生选择的 top-16 子集,准确率与全共享词表 OPD 相当,优于所评测的跨 tokenizer 基线。对不匹配组补充 span log-probability 的 MSE 监督反而降低准确率,研究表明应从扩大对齐覆盖转向优先保障监督可靠性。

  14. arXiv · cs.CL51

    Agentic AutoRAG:用推理驱动的智能体优化 RAG 管线超参数

    作者提出 Agentic AutoRAG,一种用于多目标 RAG 超参数优化的 LLM 智能体优化器,能在每次试验后用 Diagnoser 将失败问题归因到检索或生成阶段,并由 Proposer 结合模型排名与定价知识库选出下一组配置,在精度与成本间逼近 Pareto 前沿。在三个多跳 QA 基准上,其 LLM 评审准确率高于所有对比基线,且前 10 次试验即达到统计基线 30 次试验的水平;在真实医疗语料的成本感知模式下,中位测试准确率 77% 高于最强基线的 71.5%,查询成本约为其 58%,匹配 71.5% 时成本仅约 22%。论文已被 EMNLP 2026 REALM Workshop 与 NeurIPS 2026 ML for Systems Workshop 接收,代码已开源。

  15. arXiv · cs.CL56

    UNREAL 论文提出单一模型统一检索与长上下文证据选择

    arXiv 论文(2610.08463)提出 UNREAL 框架,直接从冻结 LLM 的内部表示生成检索查询和编码文本块,仅新增不到 500K 可训练参数且不改动主干。在 3B token、21M chunk 的 Wikipedia 索引上,四种 dense 和 hybrid 主干均超越现有 retriever-reranker 系统,HotpotQA 召回率从 49.1% 提到 73.2%,2WikiMultiHopQA 从 31.7% 到 60.1%,MuSiQue 从 8.8% 到 14.4%。

    推荐理由:论文用不到500K可训练参数统一语料检索与长上下文证据选择,并给出多基准召回率对比数据,方法与结果都可复用参考。

  16. arXiv · cs.CL49

    大语言模型评估抑郁更多反映评分者而非患者:arXiv 新研究

    一项预注册研究将 11 个开源模型与提示词及评分方式交叉组合成 880 个大语言模型评分者,对 189 段访谈按 PHQ-8 量表评估抑郁。模型选择解释了症状总分方差的 30.0%,两名 AUC ≥ 0.70 的评分者平均对 40% 参与者的筛查结论不一致。用 40 名标注参与者重校准后准确率从约 60% 升至 75%、分歧减半,但仍有五分之一的参与者结论不同。

  17. arXiv · cs.CL45

    Wiki-Talkie:基于真实讨论的跨语言人格化 Agent 基准测试

    Wiki-Talkie 是一个源自五种语言 Wikipedia Talk 页面真实对话的多语言数据集,涵盖德语、英语、西班牙语、法语、意大利语,并配有来自真实用户社群、含社会人口属性与行为特征的 persona。基于下一轮生成任务评估显示,以用户评论历史示例行为的效果持续优于显式 persona 信息,且各模型系统性少生成负面或极端情绪、过多生成引用与建议,呈现讨好与正向偏差。这些模式跨语言稳健成立,跨语言差异很小。

  18. arXiv · cs.CL50

    arXiv 论文提出对齐缩放定律框架并给出首批预注册实测结果

    Jeremy Canale 在 arXiv 发布论文,将对齐负担建模为 B_r(N)=a_rN^alpha_r 的幂律框架,指数小于 1 表示规模有助于对齐、大于 1 则积累对齐债务。预注册实测包括:Pythia 分类器的对抗训练数据显示将攻击成功率压到 10% 以下的算力随 N^0.60 增长;Qwen2.5 0.5B-72B 上真实性与 stated dispositions 的指数为 -0.05 和 0.48,sycophancy 和预置后门未能判定,其中后门在触发器已知时可快速移除,但在五个规模中的四个上能在盲安全训练后存活。论文未对当前前沿模型属于哪种区间下结论。

  19. arXiv · cs.CL36

    0.6 有多高?可解释性探测中的下限、上限与余量分析

    一项可解释性研究提出用「下限」(简单输入已能预测的水平)和「上限」(完整输入可预测的水平)为 probe 分数建立参照系,两者之差为余量。在 in-context 元分析 transformer 上,分布偏移使 probe 分数下降、预测误差上升 12–15 倍,但模型恢复的余量比例相近,说明是数据丢失信息而非表征受损。研究还发现单细胞基础模型 scGPT 仅部分编码生物变异性,并重审四项关于 LLM 表征地理、Othello 棋局、真值与用户人口特征的 probing 研究:部分结论成立,另一些很大程度上可由输入文本本身解释。

  20. arXiv · cs.CL46

    冻结的 VideoLLM 内部已编码证据就绪信号:arXiv 新研究提出 Readiness Gating 回答时机策略

    一项 arXiv 研究发现,未经修改的冻结视频-语言模型(VideoLLM)内部已线性可读地编码了“证据就绪”信号,该信号以问题为条件且与回答正确与否无关。在 7 个模型上,严格 not-ready 采样下 AUROC 达 0.733-0.905,仅改变问题即可在 66.1% 的字节相同窗口对上反转读出结果。据此提出的 Readiness Gating 回答时机策略在相同视频时长下将准确率最高提升 +9.75 pp,计算开销可忽略。

  21. arXiv · cs.CL32

    偶发信息污染病历笔记并干扰大语言模型的临床推理

    一项 arXiv 研究考察了大语言模型对病历中偶发信息(与就诊无关的闲聊、串入的他人对话)的敏感性。在 576 段对话中,前沿模型将闲聊写入 35% 的笔记,3.7% 的笔记错误归因或临床使用了这些内容;在 57 次模拟问诊中,-10 dB 背景语音泄漏进 48.2% 的转写文本,4 个开源权重模型生成的笔记中 5.3% 出现污染。研究提出双重编码假说,建议临床部署前评估模型对偶发信息的抵抗力。

  22. arXiv · cs.CL21

    生成式 AI 在高风险应急信息翻译中的应用研究

    Anthony Pym 的实验将一份地震应急指令由英文翻译成中文和西班牙文,结果显示使用针对话语类型的提示词可显著提升生成式 AI 译文的可理解性和可操作性,但译者可能仍不信任这些译文。人工修订仍不可少,既要查错,也是出于伦理考虑需要有人为应急信息的错误或延误负责。

  23. arXiv · cs.CL20

    InterCorrect:面向公平 ASR 的交叉群体感知人口统计模型合并校正方法

    研究提出 InterCorrect,一种用于公平 ASR 的人口统计感知模型合并方法:基于 SLAM-ASR 模型仅微调 connector,并将针对特定人群适配的 connector 合并为全局模型,再施加交叉群体特定校正向量。在 Fair-Speech 上,TIES 结合基于 WER 的校正取得最佳整体 WER,从 7.38% 降至 5.13%,但平均 WER 降低并不总意味着子群体差异缩小。

  24. arXiv · cs.CL40

    面向大语言模型的参数内记忆增强综述

    这是一篇关于 LLM 参数内记忆增强的综述,提出用模型参数、adapter 等参数化对象承载可复用记忆,在推理时接入前向计算,以补充 ICL 占用上下文、产生随长度增长编码开销的不足。该工作沿 Parameter Placement(Embedding、Attention、FFN、Hybrid)与 Parameter Acquisition Time(在线/离线)两个正交轴梳理方法,并讨论干扰、安全、与 ICL 协同及递归自我改进等开放方向。

  25. arXiv · cs.CL23

    证据绑定推理:神经语义验证框架在胶质母细胞瘤影像基因组学生物医学 AI 中的应用

    研究者提出一套神经语义验证框架,将 UPenn-GBM 影像组学特征转化为可机检的证据记录与声明,用于验证生物医学 AI 解释是否被患者证据支持。GPT-5.6 Sol 在 24 例试点中复现 72/72 条原子声明,验证器在 6,620 条声明的破坏测试中达到 100% 精确集合准确率;预测 ROC AUC 从 0.899 降至 0.500 时验证准确率仍保持 1.000。结论是可验证性可独立于预测性能进行工程化与评估。

  26. arXiv · cs.CL23

    同数引用交换:压力测试 Jev 作为财务证据裁判

    一项研究用“同数引用交换”评估 Jev 作为 GPT-4.1-mini 计算痕迹的来源支持验证器,测试财务报告中数值相同但角色不同的引用问题。实验固定操作数与算术,在相同数字单元格间移动引用,发现既存在能通过检查的错误角色引用,也存在被扣留的有效替代引用;显式列标签改善部分错误角色判断,却降低部分等价证据的支持度。在 36 个新来源页面上的扩展评估揭示了检测角色错误与保留有效引用之间的同样权衡。

  27. arXiv · cs.CL41

    小语言模型在抽象推理任务上的系统性研究

    一项发表于 arXiv 的系统性研究在 ARC-TGI 基准上考察小语言模型的抽象推理能力,涵盖 decoder-only、encoder-decoder 和 MoE 模型家族,进行了超过 1,000 次运行。结果显示模型在训练分布内可达到较高准确率,但分布外性能急剧下降,即使规则不变、仅网格尺度变化也会退化;技能获取对优化敏感,且在不同任务族间分布不均。研究表明抽象推理分数依赖于模型、适配方式、评测分布和响应格式。

  28. arXiv · cs.CL32

    一致不等于有效:LLM 跨模型共识在 K-12 数学辅导对话学生错误诊断中的有效性研究

    一项针对 K-12 数学辅导对话的探索性研究检验了 LLM 对五种学生失败模式(不确定、错误归因、运算符选择、概念缺口、程序性失误)分类的有效性。结果显示人机一致性仅为中等(kappa = .524-.597),而跨模型一致性明显更高(kappa = .755-.781)。这表明 LLM 间共识会造成正确性的假象,不能替代对学习者解读有效性的独立证据。

  29. arXiv · cs.CL41

    解耦生成式检索中的范式、标识符与解码

    该研究在 NQ320K 和 MS300K 上系统比较自回归、掩码扩散与块扩散生成式检索模型,控制标识符方案、训练预算与解码方式以厘清各因素贡献。解码方式单独使扩散模型 Hit@1 变动 6.6 至 13.7 个百分点;提出的一次打分(one-pass scoring)解码在 12 个设置中的 11 个上持平或超过 generate-and-match。自回归模型 Hit@1 仍领先,且随机标识符可保留 83-90% 的 Hit@1。

  30. arXiv · cs.CL55

    arXiv 论文解析微调中的伪遗忘:共享位移可逆,个体侵蚀才致命

    arXiv:2610.08718 研究微调中语言模型的伪遗忘(spurious forgetting),发现被遗忘的旧知识往往仍存储在模型中且可恢复。作者用最小联想记忆模型复现遗忘动态,指出其依赖共享结构的键、集中新值和网络归一化三个要素:微调使旧表示沿共同方向整体移动,暂时隐藏旧事实但保留其相对几何;新数据只把旧记忆一起移动时遗忘可逆,逐事实改变累积时才造成永久侵蚀。实验显示减去共同位移可消除 Transformer 的崩溃,从权重更新中移除单一方向可在预训练语言模型中恢复旧事实。

    推荐理由:论文把微调遗忘拆成可逆的共同位移和不可逆的个体侵蚀两部分,并给出恢复旧知识的干预方法。

  31. arXiv · cs.CL28

    Holdout Best-of-N:无偏评估及其代价

    复用选择 Best-of-N 胜者的评分会高估其期望奖励。论文证明:仅基于每候选 K 个独立评分的固定矩阵,估计器要在所有独立稳定评分律下恰好无偏,当且仅当 J<K;J=K 时无法无偏,但增加一个新胜者评分即可对全 K 策略做无偏评估。Holdout 在该机制下达到 σ²/√K 量级的无偏 minimax 风险,有偏方法可改进到 σ²/K;两候选情形下无偏 minimax 常数为 1/(π√2)。

  32. arXiv · cs.CL20

    生成式信息检索中语义 ID 空间的系统性研究

    一项发表于 arXiv 的研究系统探讨生成式信息检索(GIR)中什么样的数值 DocID 才有效。作者提出统一 Product Quantization(PQ)与 Residual Quantization(RQ)及其混合变体的框架,并定义一组无需训练的内在指标来量化 DocID 质量,避免昂贵的下游评估。实验在 MS MARCO 300K 和 NQ320K 上分析了层级性、并行性及 DocID 长度、codebook 大小等超参数对检索效果的影响。

  33. arXiv · cs.CL51

    arXiv 论文提出 H-CDLM:用分层连续扩散改进扩散语言模型

    论文提出分层连续扩散语言模型 H-CDLM,通过对 token 及其由预训练嵌入聚类得到的粗粒度簇等多模态并行扩散,以极小计算与参数开销改进连续扩散语言模型。应用于 CoBit 得到 H-CoBit,在 LM1B 和 OWT 上生成困惑度分别为 49.4 和 50.4,比基线提升 24.2 和 20.7 点,GSM8K 准确率达 27.4%,超过同规模离散 DLM 及以往连续扩散和流匹配模型;应用于 FLM 得到 H-FLM 也有一致提升,代码将公开。

  34. arXiv · cs.CL23

    LLM 刻板印象评测的缺失环节:双重最小对方法

    一项 arXiv 研究指出,用单对对比句的 log-likelihood 差评测大语言模型偏见往往不可靠,改写属性可能导致逻辑不一致的偏好。作者提出双重最小对设置与数据增强框架,为英语、俄语、西班牙语和中文刻板印象数据集生成改写和替代属性,并引入基于互信息(MI)的新指标,支持跨语言、跨模型更稳健的刻板印象强度比较。代码已开源。

  35. arXiv · cs.AI22

    AnyBottle:只保留真正所需概念的概念瓶颈模型构建方法

    研究者提出 AnyBottle,一种构建紧凑、任务特定概念瓶颈模型(CBM)的单一配方。该方法仅需冻结 backbone 和无监督概念池(如 sparse autoencoder),由黑盒 teacher 逐轮选出最能解释瓶颈当前失败的概念,并以 nested dropout 训练。在六个视觉和两个文本数据集上,AnyBottle 以更少概念和更高概念一致性超越免标注基线,性能接近黑盒参考模型。

  36. arXiv · cs.AI42

    DeltaTTT:面向非线性循环记忆的逐层优化方法

    arXiv 论文提出 DeltaTTT,针对非线性 test-time training 记忆网络中串行更新优势不稳定、单遍优化困难的问题,将两层记忆网络的联合内环优化改为逐层学习,每层分配局部预测目标并通过状态依赖的 delta rule 更新,保留非线性 readout 同时支持 chunkwise 并行计算。在 DeltaNet 和 LaCT 骨干上的实验显示,语言建模与检索能力较各自循环基线有所提升。

  37. arXiv · cs.AI29

    SoK 系统化综述:面向青少年的人本 AI 安全

    一项系统性综述分析了 100 项涉及儿童与青少年接触 AI 的实证 HCI 研究,用 YAIR 风险分类法和 MIT Mitigation Taxonomy 映射风险与对策。结果显示大多数风险仅有设想中的对策,已实施的很少,经评估的更少,且评估多测技术性能而非实际防伤害效果。作者指出了防护空白并为人本 AI 安全研究提出方向。

  38. arXiv · cs.AI50

    LLM 中的潜空间偏置方向捕获的是模型置信度,而非公平性

    一项 arXiv 研究分析大语言模型 activation steering 所用的线性去偏方向,发现其主要编码的是模型置信度,而非偏置的表征。沿该方向 steering 确实能降低测得的偏置,但原因是模型被推向弃答,公平性指标改善只是降低置信度的副作用。研究指出将偏置与置信度解耦的线性表征难以获得,steering 去偏结果应谨慎解读。

  39. arXiv · cs.AI42

    自适应幂采样(APS):让 LLM 推理按查询难度自适应调节锐化强度

    研究提出 Adaptive Power Sampling(APS),一种无需训练的 LLM 推理方法,可在测试时按查询调整幂采样的锐化指数。理论上进一步锐化的收益取决于正确与错误回答之间的 self-reward gap,APS 据此利用答案一致性与 self-reward 的关系逐查询自适应调节。在 MATH500、HumanEval、GPQA 等推理任务上,APS 持续优于固定锐化指数的幂采样。

  40. arXiv · cs.AI41

    RAG-PIBench:面向可信 RAG 系统的泄漏感知提示词注入检测基准

    研究者推出 RAG-PIBench,一个针对 RAG 系统提示词注入检测的基准,包含 4,876 条上下文样本,采用泄漏感知的构建流程与严格的评估协议。对比实验中,DistilBERT 取得最佳受保护测试集表现(F1 = 0.896,PR-AUC = 0.968),TF-IDF SVM 和逻辑回归也保持竞争力。结果凸显了泄漏感知基准设计与强稀疏基线对可靠提示词注入检测的价值。