跳到正文
10月16日周五
  1. arXiv · cs.CL60

    SPLIT 论文提出在验证器不完美时分配测试时算力的方法

    arXiv 论文 2610.23255 提出 SPLIT,用小规模标注试点通过经验贝叶斯拟合精确公式,在固定预算下规划采样数量、模型选择与验证开销,覆盖接受/拒绝和最高分选择两类验证方式。在七个基准、26 个模型、175 个智能体系统和六类真实验证器上,SPLIT 距事后最优分配仅差 0.02-0.8 个百分点,而所有测试的固定规则在部分场景至少损失 2.5 个百分点;该公式还解释了何时增加 LLM judge 反而降低精度,代码将发布。

    推荐理由:论文提出用小规模标注试点来规划测试时算力分配,覆盖26个模型和六类真实验证器的实验规模可作方法参考。

  2. arXiv · cs.CL63

    arXiv 论文揭示小体量工具调用 Agent 低提示注入成功率背后多数是忽略而非拒绝

    arXiv 论文审计了 11 个开源权重 Agent(2-14B)在 InjecAgent 与 AgentDojo 上的 33,000 条轨迹,发现失败攻击中 76-80% 是忽略而非拒绝(17-18%)。仅改系统提示词即可让 InjecAgent ASR 从 0.2% 变到 43%;其提出的 Attack-Task Outcome Matrix(ATOM)显示 AgentDojo 中 21.7% 的回合 Agent 安全但未完成用户任务,建议评测同时报告攻击失败方式与任务完成度,并开放了标注语料、judge 提示词与分析代码。

    推荐理由:论文指出低攻击成功率掩盖了安全失败方式,提供了按失败类型与任务完成度拆解评测的可迁移方法。

  3. arXiv · cs.CL45

    谁为高效推理买单?基于置信度的大语言模型小到大路由在任务与语言间的评测

    一项 arXiv 研究系统评测了基于置信度的小到大 LLM 路由,覆盖 3 个模型家族、4 种语言、3 类任务、72 种配置和 42,288 条预测。在 Belebele 与 SIB-200 上,50% 升级率下比随机路由分别提升 1.40–4.67 和 2.54–5.63 个百分点;但在 MMLU-ProX-Lite 上平均 AUC 仅 0.510,无一致收益。全局置信度路由存在高达 30.33 个百分点的语言升级差距,而等额配额路由能消除该差距且整体精度损失很小。

  4. arXiv · cs.CL47

    思考更多还是阅读更多?共享上下文下推理的 token 预算理论

    一项 arXiv 研究提出 token-budget 理论,形式化建模多智能体辩论与自我细化中“读与推理共享固定 token 窗口”的权衡,并由单智能体测量预测最优智能体数量。跨 5 个开源模型和 4 个推理任务,self-consistency 在 980 组匹配的窗口与组规模设置中 93% 的情况下持平或超过已部署的辩论方法,窗口越紧张差距越大。结论是共享窗口下模型剩余的思考空间比其阅读内容更重要。

  5. arXiv · cs.CL39

    MGE-PO:面向数学推理的熵感知信用分配方法

    论文提出 MGE-PO,通过结合验证正确性与 rollout 生成熵的四象限(4Q)优势塑形,改进 GRPO 对同等奖励响应不做区分的问题,并辅以在线熵问题课程。在 Qwen3-8B-Base 上训练八个 epoch 后,4Q 使六基准 macro avg@32 绝对提升 3.23-3.69%、macro pass@32 提升 4.24-11.06%;在 Qwen2.5-7B-Base 上将四基准 macro avg@32 从 41.5% 提升至 45.4%。

  6. arXiv · cs.CL36

    MultiAgent-OPD:基于 On-Policy Distillation 的分层多智能体系统端到端训练方法

    arXiv 论文提出 MultiAgent-OPD,将 on-policy distillation 与强化学习结合,端到端联合训练共享参数的 Leader-Searcher-Answerer 多智能体团队。冻结的 Teacher 模型对 Searcher 生成的搜索和摘要 token 打分提供过程监督,Leader 从团队成败学习,Answerer 从候选答案正确性学习。在七个数据集上系统达到 38.68% macro avg@4,超过 Prompted Critic 4.06 个百分点、超过 C-MAS + RL 2.61 个百分点。

  7. arXiv · cs.AI27

    表征与分析检索增强生成(RAG)技术的概念框架

    研究者提出一个概念框架,通过多维度和子维度对现有 RAG 技术进行表征(“是什么”)与分析(“做得如何”),框架基于对文献中 RAG 技术属性的定性分析构建。它可作为实证基准测试前的预筛选机制,帮助研究者和实践者在昂贵的实测之前,选出契合特定用户与任务需求的 RAG 候选方案。

  8. arXiv · cs.CL33

    ReLaDrift:基于 Drifting 的循环语言生成方法,支持测试时扩展

    论文提出 ReLaDrift,用共享的 Drifting Model 从噪声生成初稿,并在连续潜在空间中迭代精炼,训练时仅在最终轮施加 drifting loss、只回传一轮梯度。与一步生成、无法通过迭代提升精度的 Drifting Model 不同,ReLaDrift 可在测试时计算量与生成质量间权衡。在 Sudoku Hard 和 GSM8K 上,它在多种推理预算下达到与扩散、流语言模型相当或更优的性能,代码已开源。

  9. arXiv · cs.AI20

    qGAMMA:面向多精度加速器的 DNN 最优映射框架

    研究人员提出 qGAMMA 框架,用于探索和优化混合精度深度神经网络(DNN)模型在支持多种定点与浮点精度的通用空间加速器上的映射。该框架采用领域特定遗传算法和基于硬件综合结果的解析性能模型来搜索设计空间,找出最小化目标指标的最优映射与加速器配置。在多类 DNN 工作负载上的评估表明,它有助于在性能、能效和资源利用率之间取得更好的权衡。该工作被 SAMOS XXV 接收。

  10. arXiv · cs.AI43

    并非所有测试时算力都是证据:LLM 推理中的模型特定偏差

    arXiv 论文指出,同一推理模型的重复采样、不同推理深度和自评估之间存在错误相关性,因此同模型更多算力并不等于更多独立证据。作者提出 DIA(Disagreement-triggered Independent Arbitration),当中间阶段与最终阶段预测不一致时,由一组异构模型独立求解并聚合答案。在七个基准、两个基础模型上,DIA 在 14 个设置中的 12 个优于完整 chain-of-thought,MuSiQue 提升 7.00%,仅激活约 17% 的样本,token 用量比多智能体基线最多减少 47.2%。

  11. arXiv · cs.CL18

    MAS-Bai:面向白文白语的自适应多智能体翻译框架

    研究者提出 MAS-Bai,一个面向白文(Bowen script)白语-中文翻译的语言学驱动自适应多智能体框架,针对汉字被语音借用导致的直译幻觉问题,按输入路由至轻量检索翻译路径或含词源与句法智能体的深度语文学路径,并以轻量反向翻译器的 cycle-consistency 作为推理时可靠性信号。团队构建了 6,536 句白语-中文语料,在 1,536 句测试集上 MAS-Bai 达到 16.23 BLEU 和 62.15 COMET,较 Standard RAG 提升 8.11 BLEU 和 6.85 COMET,在语音借词和语序差异场景增益最大。

  12. arXiv · cs.AI25

    用调查报告的党派接触数据验证 LLM 生成的政治网络

    一项 arXiv 研究基于 ANES 2020–2022 社交媒体研究的人物设定,用 LLM 生成政治网络,并以受访者调查报告的党派接触度作为经验基准进行验证。结果显示,部分模型生成的民主党和共和党自我节点之间的分离比调查数据更强,另一些模型则低估了共和党接触度;结构属性相似的网络仍可能在同一人物周围生成不同的党派环境,且存在群体-specific误差。这表明仅靠聚合指标评估 LLM 社会模拟会掩盖局部环境错误,需在聚合与个体两个层面进行验证。

  13. arXiv · cs.AI29

    FuzzInsight:导航覆盖引导 DNN Fuzzing 的效率-效果权衡

    研究者提出 FuzzInsight,针对覆盖引导 DNN fuzzing 中种子利用低效与覆盖引导成本高两大瓶颈给出配置分析与决策指南。其 Equalized Sampling 策略将种子队列平均利用率提升至 77%,较此前方法提高 13 个百分点;在 MNIST、SVHN、GTSRB、CIFAR-100 四个基准上评估 84 种配置,发现非结构化准则 LSCD、LSC、MDSC 以更少计算量达到相当覆盖效果。用生成的边界样本重训练可将泛化鲁棒性平均最多提升 77 个百分点,且不损害原测试分布上的性能。

  14. arXiv · cs.AI53

    OfficeTown 论文提出生成式组织模拟框架并以组织数据提升 Qwen3.5-9B

    arXiv 论文 2610.23194 提出 OfficeTown,一个从自然语言组织描述生成职业组织模拟的框架,成员协调分工、委派任务给助手智能体并评审产出,产物与未决事项持续存在影响后续工作。配套 OfficeTown Bench 含 23 个模拟组织、8 个专业领域的 406 个任务和 4,836 条评测标准;对 Qwen3.5-9B 做监督微调和 on-policy 蒸馏后在外部职业工作基准(含 GDPval)上明显提升,principal-assistant 框架得分高于所测单智能体与多智能体基线。

    推荐理由:论文把组织模拟当作智能体训练数据源,任务与评审反馈可持续生成,还验证了主从协作框架优于单智能体基线。

  15. arXiv · cs.AI32

    LangNCO:将自然语言约束编译为神经组合优化的推理时干预

    LangNCO 框架将实例级自然语言需求编译为结构化推理时干预,无需重训即可让冻结的 NCO 求解器适配新约束,LLM 作为语义前端生成经 schema 校验的 DSL 规则,由确定性 Rule Executor 施加硬动作掩码,并配合 Critical-Offset Decoding 分配 rollout 预算。在 CVRP 上评测,LangNCO 在四个主数据集实现 100% 可行性、平均参考差距 1.63–3.26%,组合成对约束时可行性 97.33–100%,额外 12 类约束上可行性 98.67%。

  16. arXiv · cs.AI47

    MoEvolve:基于在策略双向蒸馏强化 MoE 模型的自蒸馏框架

    arXiv 论文提出 MoEvolve,一个面向 MoE 大语言模型的双向蒸馏框架,通过“先恢复再提升”策略,将激活扩展后的高-k 模型作为更强教师,再把增强后的能力蒸馏回原始低-k 配置并保留推理时的激活预算。该框架在多个 MoE 模型和基准上将初始模型最高提升 22.2 个领域平均分,比同预算 RLVR 基线最高高出 6.5 分,且最终低-k 模型常常超过其激活扩展教师。

  17. arXiv · cs.CL26

    AMEND:基于约束引导与隔离评论者的多智能体文本去毒化框架

    研究者提出 AMEND,一种推理时文本去毒化框架,将去毒解耦为角色化候选生成、隔离多维批评与约束优先选择。在 ParaDetox 上,多角色单轮选择比最佳单一角色提升联合指标 +0.0508;AMEND Lite 在冻结确认测试集上取得 0.6597±0.0062 的联合分数,比无约束多轮循环高 +0.0489(p<0.05),同时推理请求减少 28.4%。

  18. arXiv · cs.CL35

    DarkLens:从 Unembedding 暗空间读取 LLM 的上下文依赖以检测忠实性幻觉

    一项新研究提出 DarkLens,通过将隐藏状态投影到 unembedding 矩阵弱组合的"暗空间",以 Dark Matter Ratio(DMR)衡量模型的上下文利用程度,仅需单次前向传播即可检测忠实性幻觉。该方法结合参数知识分数,在三个 QA 与摘要基准、六个 4B-13B 开源权重 LLM 上评测,表现持平或优于多种基线,且无需额外前向传播或探针训练。

  19. arXiv · cs.CL44

    TreeOPSD:面向长程智能体强化学习的树感知后验知识蒸馏框架

    研究者提出 TreeOPSD,一个无需 critic 的树感知后验自蒸馏框架,用于长程智能体强化学习。该方法将每轮交互视为树节点,从共享前缀分支备选续写,并将终止奖励递归回传为隐式轮级信用,映射为有界的闭式教师分布。在 Deep Research 设定下,TreeOPSD 使 Qwen3-30B-A3B-Thinking-2507 的平均准确率较 GRPO 提升 4.97 分。

  20. arXiv · cs.CL28

    语音脑机接口需要更大的模型吗?超越规模化重新思考神经解码

    BEST(Brain-Encoding-Speech-Text)提出两阶段神经到文本解码框架,用分层中间表示和紧凑的语音解码器替代大型生成模型。在 Brain-to-Text '24 与 '25 基准上分别取得 6.19% 和 1.62% 的词错误率(WER),仅用同类方法 3.85% 的参数量。研究还发现解码器扩展收益非单调、跨模态对齐比模型规模更关键、过拟合损害序列级性能。

  21. arXiv · cs.CL25

    Chinese Decision:单次前向概率决策中文语言模型系列

    中科院计算所发布 Chinese Decision 中文模型系列,用于单次前向 pass 的概率决策:模型一次前向提取候选选项字母 logits 并归一化,无需自回归生成答案。已完成的 0.8B 模型在 307,900 条决策的 CJ-Bench 上取得 72.24% 通用域准确率、76.98% 专业域平均准确率,整体期望校准误差 1.07%;2B checkpoint 经 RLCD 目标初步训练后达 72.56% 通用域准确率但尚未超过 0.8B。训练、评测与部署流水线(含 Q8 量化)已开源。

  22. arXiv · cs.AI45

    LongForge:用证据-断言推理图度量并改进长上下文指令数据

    LongForge 将长上下文指令数据质量形式化为文档、问题与答案之间的对齐结构,包含分析器与合成器两部分。分析器把样本逆向重建为证据-断言推理图,计算广度、深度、正确性、完整性四个维度,对七个主流数据集的测量发现广度几乎不随文档长度增长、深度普遍偏低。合成器将其嵌入生成过程,LongForge-1 与 LongForge-2 两个混合数据在两个骨干模型上于六个长上下文 benchmark 中平均超出最强基线 2.2-4.7 分。

  23. arXiv · cs.CL32

    用自然语言解释国际象棋与围棋:BinProp 方法让语言模型棋评更可懂

    研究者提出基于国际象棋引擎评估的自动指标来衡量语言模型的象棋解释质量,发现现有 SOTA 模型表现很差,多依赖棋盘表面观察而非可迁移的象棋概念。他们进而提出免训练方法 BinProp,让模型发现可复用的象棋概念并用自然语言解释走法,平均得分较直接提示提升近 3 倍。该方法无需额外调参即可在围棋、西洋跳棋和将棋中发现有用概念。

  24. arXiv · cs.AI40

    算法模型化:将优化算法转化为可进化的智能

    一项 arXiv 研究提出「算法模型化」新范式,把迭代算法的执行轨迹当作计算经验,转化为可训练的模型。研究者将迭代优化建模为自回归过程,构建与维度无关的种群-时间架构,并通过先模仿异构教师、再经优化反馈超越的学习框架训练优化器。所得模型可整合异构搜索知识,并泛化到更大规模未见维度,使算法能力可通过学习不断积累。

  25. arXiv · cs.CL40

    Cross-Centaur:用语言模型建模跨心理学任务的个体决策

    研究者提出 Cross-Centaur 模型,利用跨任务个体级数据预测人类决策,并发布 Cross-Psych-101 数据集,涵盖 591 名参与者、12 个任务中的 261,551 个有效决策。该模型在留出参与者上的表现超过现成 LLM 和 Centaur,探测分析显示其隐藏状态编码了可跨任务迁移的参与者级行为倾向。论文已被 EMNLP 2026 主会接收为口头报告,数据集已公开。

  26. arXiv · cs.AI18

    QuAD:基于内容感知多智能体系统的分布对齐定性数据质量量化评估框架

    研究者提出 QuAD 框架,用于对半结构化定性响应数据集做量化预分析评估:将重建的内在聚类分布与研究者定义的外部分析透镜对比,以四象限指标联合判断数据是否适配特定分析目标。该框架引入带两阶段指令生成和自适应锚点的内容感知多智能体系统以提升打分一致性,并通过合成数据实验和真实社会调查案例验证。

  27. arXiv · cs.AI19

    CIIR:类索引接口表示学习框架,实现无配对多模态数据集间的模块化通信

    arXiv 论文提出 CIIR,一种通过类索引地址空间连接异构数据集的模块化编码器-解码器框架,无需配对或实例匹配样本。模型用 128 维地址表示,从手写数字、服装图像、口语数字频谱图和手势中学习,label-free 接收器达到 94.7% 宏平均 Address Realization Accuracy;冻结地址空间后仅训练轻量适配器,MNIST>SVHN 和 SVHN>MNIST 端到端 Address Transfer Accuracy 分别为 90.2% 和 82.3%。

  28. arXiv · cs.CL37

    AI 能否担任访谈员?AI 访谈与人工访谈的首次直接实证对比

    一项随机实验(N = 41)首次直接比较了 AI 访谈员与人工访谈员的数据质量:本地部署的 7B 开源权重模型每次访谈提问数量是人工的两倍以上,引出的受访者文本多约 65%。两种条件下访谈时长中位数相近,回复切题度几乎一致,特异性未检测到差异。结果表明 AI 访谈适用于大样本定性数据收集,并可缓解数据安全与 GDPR 合规顾虑。

  29. arXiv · cs.AI44

    用于内存高效训练的局部代理方法研究

    一项 arXiv 研究提出在 Transformer 每个模块训练局部代理网络,通过知识蒸馏预测全局网络输出,使梯度无需存储全部激活值即可独立回传,理论上对深层线性网络精确成立,非线性残差模型中梯度误差有界。该方法在 CIFAR-100 上的 vision transformer 实验中取得优于其他局部算法的准确率/内存权衡,用于小内存预算下微调大语言模型时,比 zeroth-order 学习算法训练更快、性能更高。

  30. arXiv · cs.AI32

    LexPilot 基准:评测法律 LLM 在中文民事咨询中面向普通人的主动交互能力

    LexPilot 是一个将主动式法律交互与真实中文民事判决的 claim 级判决预测关联的基准,由 432 份真实判决、36 类常见案由构建,包含专家审核的完整与欠明确咨询历史对。实验显示,现有 LLM 在欠明确咨询中难以主动追问关键信息,下游判决预测平均比完整咨询设置低 23.84%。

  31. arXiv · cs.CL51

    arXiv 论文提出 LED:用 Lookahead Editing 改进掩码扩散语言模型

    arXiv 论文提出 Lookahead Editing(LED),在掩码扩散模型的解码中加入可重写的提案状态,让模型在提交 token 前多次前瞻更新以提升表达能力,同时保留易于优化的掩码转移调度。作者基于 Qwen2.5-7B 和 Qwen3-8B 微调得到 LED-7B 和 LED-8B,在八项基准上 LED SFT 平均比标准 MDM SFT 提升 +11.4 和 +7.7 分,且 LED-8B 仅用 SFT 就超过了经持续预训练、SFT 和强化学习训练的 LLaDA2.1-16B Q-mode。

  32. arXiv · cs.AI52

    WebCoder:基于工件锚定智能体强化学习的通用前端开发 Agent

    论文提出 WebCoder,一个用工件锚定智能体强化学习训练的通用前端开发 Agent,并构建可执行环境 Webdev-World 与评测集 Webdev-Bench。WebCoder-27B 在 Webdev-Bench 上把需求满足分从基座 Qwen3.8-27B 的 64.8 提升到 72.8,超过 Claude-Opus-4.8(65.1)和 GPT-5.4(59.6);在 Vision2Web 上平均视觉与功能分从 41.1 提到 62.4,与 Claude-Opus-4.8 相当。消融实验验证了工件锚定信用分配与长程训练的贡献。

    推荐理由:论文提出以共享可执行工件为核心分配奖励与信用,并给出对齐 Claude 等闭源模型的实测分数,方法可迁移到长序列开发任务。

  33. arXiv · cs.CL44

    解构语言对 LLM 智能体工具准入与检索后安全的影响

    一项覆盖 10 个模型、7 种语言的受控 URL 检索实验发现 SLIP 现象:非英语有害请求使平均工具准入率从 46.9% 升至 67.4%,且在每个模型中均出现。要求用页面语言作答时,四个闭源模型在相同工具调用下的平均有害率从 50.3% 升至 57.4%,主要出现在中文和印地语。研究建议多语言安全评估应分开测量工具准入与回答有害性,并区分真正的安全拒答与能力失败。

  34. arXiv · cs.AI48

    重新思考 GRPO 在大型推理模型安全对齐中的应用并提出 Beacon 框架

    论文指出 GRPO 用于大推理模型安全对齐时存在优势坍缩与不安全多样化两种失效模式,并提出包含 Safety Signal Recovery 与 Safety-Utility Decoupled Alignment 的 Beacon 框架。在 Qwen3 与 DeepSeek-R1-Distill 四个变体、八个 benchmark 上的实验显示,平均安全误差最多降低 32.83 个百分点,同时保持较低过度拒答。

  35. arXiv · cs.AI30

    通过学习的潜空间多表表示迈向 Prior-Data Fitted 关系模型

    研究者在大量合成关系数据库上预训练基于消息传递的图关系基础模型 Griffin,将编码器潜表示输入冻结的 in-context 预测器,不在目标任务上训练任何组件。在 16 个真实世界关系分类任务、五组随机种子评估中,从 schema 引导过渡到 schema 无关的纯合成课程学习取得最强的冻结 in-context 性能,超过仅用真实数据预训练及各种无序单阶段混合方案,且在真实数据预训练后追加该课程可获得整体最佳编码器。结果表明 PFN 式合成预训练可迁移到基于图的关系基础模型。

  36. arXiv · cs.CL49

    检索开始之前:LLM Agent 的安全与工具调用决策研究

    一项 arXiv 预印本研究了七个开源权重 LLM 在有害请求下是否调用外部工具的先验决策: admitted 有害请求后的平均伤害率为 74.5%。因子化干预显示,中和请求操作成分产生最大的准入对比(19 pp),纯文本拒绝训练可降低保留良性工具使用模型的unsafe准入率,33.6% 的有害调用伴随书面拒绝。研究建议直接评估和监督工具调用决策,而非以文本拒绝作为代理。

  37. arXiv · cs.CL28

    ParetoChat:一个基于 LLM 的交互式多目标优化界面

    研究者提出 ParetoChat,一个基于 LLM 的专家智能体界面,用于交互式多目标优化,可将自然语言输入转换为结构化标量化参数并调用优化系统。仿真研究以基于 LLM 的决策者智能体为基准,与 DESDEO 中的 reference-point 和 NIMBUS 方法对比,在多目标二进制背包和集合划分实例上验证了其能高效引导搜索以匹配用户偏好。

  38. arXiv · cs.CL46

    同一用户不同答案:用重复风险容忍度响应审计 LLM 理财建议

    一项研究用 800 个真实家庭画像审计 5 家厂商的 7 个 LLM 理财建议,发现仅风险答案变化时股票配置建议平均波动 24-35 个百分点,同一提示词重复询问仅为 0.6-4.2 个百分点。若按经典测试理论对答案可靠性折算,波动可缩小 2.4-3.3 倍;40 岁以下客户波动最大。一次澄清提问可将客户纠正答案后的波动从 33.5 降至 1.9 个百分点,作者建议将同人次重测审计作为 AI 理财顾问的标准检查。