跳到正文
10月10日周六
  1. arXiv · cs.AI23

    基于可学习类别先验的多源数据选择:方差削减与去随机化保证

    arXiv 论文针对双层多源数据选择问题提出一种新的概率松弛方法,用多个可学习类别先验将分布约束在可行数据子集上,实现无损舍入。该方法的两点梯度估计器避免了 0-1 松弛的逆 Hessian 计算与以往概率松弛中的无界 score 项,并给出降低下层重训次数的可约简表示。论文据此设计了随机梯度算法 ReSGD,在弱次模性下给出近似保证,并通过实验验证了有效性。

  2. arXiv · cs.AI28

    VC-OPD:面向视觉接地推理的视觉反事实在线蒸馏方法

    arXiv 论文提出 VC-OPD,一种接地感知的在线蒸馏方法,通过对比原始图像与破坏实例级证据的反事实图像下教师模型的分布差异,估计 token 级视觉依赖并重加权损失,优先蒸馏依赖图像证据的推理 token,并采用保质量归一化稳定更新。在多模态推理 benchmark 上的实验显示其提升了视觉推理性能与 token 级蒸馏效果。

  3. arXiv · cs.AI46

    arXiv 论文研究语言模型倾向的分布外泛化如何预测

    一项 arXiv 研究通过 system prompting、few-shot、SFT 与 GRPO 等诱导方法测量语言模型倾向的分布外泛化(spillover),发现同一方法的 spillover 在模型间高度相关,而 SFT 与 GRPO 产生不同 profile;良性特质诱导可能外溢出权力-seeking 等非预期特质。分析识别出三个解释约一半方差的特质聚类,并观察到与目标特质无关的 drift,drift 使 Qwen3.5-9B 偏向其基座模型。测试显示 Claude Opus 5.5 对 spillover 的预测略优于模型本身,但不如基于替代诱导方法或模型的数据驱动方法,没有单一占优预测器。

  4. arXiv · cs.CL51

    FidelityQ:面向超低比特语言模型量化的预测保真度保持框架

    arXiv 论文提出 FidelityQ 标量量化框架,在权重低至 2 bit 时保持大语言模型的预测保真度。核心包括 Hadamard 混合的 IAC 编码与基于教师-学生散度尾部分配校准预算的 KIC 方法;LLaMA-2-7B 在 W2A16 下 WikiText2 困惑度为 6.62,将 W2A4KV4 此前最好结果从 8.31 提升至 6.96,线性层权重内存相对 FP16 减少 8.0x。论文链接 https://arxiv.org/abs/2610.14934v1。

  5. arXiv · cs.AI46

    SkillForgeBench 发布:基于 Agent 技能规范的智能体可靠性评测基准

    SkillForgeBench 是一个以 agent 技能为执行蓝图的智能体可靠性评测基准,含 842 个跨五大专业领域的 sandboxed 任务,对 8 个主流 agent 进行严格评分,Opus 4.8 以 40.9% 的 strict completion 率居首。结果显示所有模型层级在满足全部约束时表现大幅下滑(70.0%-85.7% 的单项通过率降至 12.6%-40.9%),且各模型的过程 rubric 达成率远低于完成 rubric(Haiku 4.5 不足 3%),说明仅看完成度会高估真实可靠性。

  6. arXiv · cs.AI54

    WorkBorne 论文提出以工件转变为 primitive 合成 Agent 任务

    arXiv 论文 WorkBorne 提出以 artifact transitions(工件转变)为核心 primitive 合成长时程终端 Agent 任务的框架,并构建了 1,061 个工件语料和 7,882 个任务环境,产出 15,485 条高质量轨迹,其中 53.6% 超过 30 个 assistant turns。

    推荐理由:原文给出了任务合成的具体数据规模和 Terminal-Bench 2.1 的前后对比,读者可评估该方法对训练终端 Agent 的实际增益。

  7. arXiv · cs.AI32

    基于上下文建模的模型预测任务采样如何弥合风险近似差距

    该 arXiv 论文针对模型预测任务采样(MPTS)中风险预测模型的两大缺陷——优化历史稀疏与风险近似的一步滞后,将其重构为上下文序列建模问题。改进后的 RPM 结合一步前瞻机制与时间加权滑动窗口,无需额外 rollout 即可缓解数据非平稳与稀缺问题,在鲁棒 Meta-RL、域随机化及 LLM 提示词课程 RL 后训练中带来更可靠的难度估计和一致的性能提升。

  8. arXiv · cs.AI49

    决策模型作为合成问卷受访者的心理测量学审计:可能但不有效

    该研究在一份立陶宛组织心理学问卷(n=263、68 题)上测试 11 家厂商的 14 个决策模型和 47 个生成式 LLM,用心理测量相似度分数(PSS)评估其替代人类受访者的能力。最好的生成式模型 MiniMax M3 达 PSS 0.813,与仅用其他受访者拟合的 Gaussian copula(0.824)持平但低于样本内拟合(0.927);47 个生成式模型中 33 个比任何决策模型更好地复现题目相关结构。基于人口档案的回归仅比其他受访者答案频率提升 1.0%,作者据此认为此类合成受访者应以样本级保真为目标。

  9. arXiv · cs.CL43

    TeachGrade:无需训练、基于教师评分证据的简答题自动评分框架

    TeachGrade 是一个免训练的简答题评分框架,利用教师评分示例构建 Skill 与 CaseBank 两类冻结记忆,并通过 PreJudge 和 FinalJudge 完成评分。在 SAS-Bench 3,829 个答案、12 个任务上,macro CCS 从 Native 的 67.99 提升至 81.32,QWK 达 84.71,超过 OpenJudge、ProofGrader 等基线;本地 Qwen3.8-27B 在全部 12 个任务上 CCS 均有提升,验证了跨语言、跨格式、跨骨干的复用性。

  10. arXiv · cs.CL33

    面向情绪-原因对抽取的智能体引导证据获取研究

    一项 arXiv 研究提出由 student agent 在 F1 决策边界附近选择性查询专家判断、仅修订被查询预测的证据获取方法,用于情绪-原因对抽取(ECPE)。在约 10% 查询率下,选择性融合使平均 pair F1 提升 2.64-3.88 点,在 ECF 上达到 65.14、在 MEC4 上达到 49.74。分析表明更多证据访问并不必然改善原因识别。

  11. arXiv · cs.AI47

    MARL-BattleGrounds:面向异构竞争性多智能体强化学习的 JAX 原生基准

    arXiv 论文提出 MARL-BattleGrounds(MARL-BGs),一个 JAX 原生的异构竞争性多智能体强化学习(MARL)基准,填补 SMAX 与 Dota 2 之间的高效且丰富的空白。其含 52 张手工设计地图、8 个终局泛化场景和每月循环赛 Elo 排行榜,单张 RTX 5090 上以 1,024 并行对局实现每秒 50,000 步 5v5 模拟,并通过 API 用 Qwen3.5-9B 与最强策略进行了评测。

  12. arXiv · cs.CL33

    社交媒体表达下中文大语言模型的社会偏见研究

    该研究构建 73 组配对探针,覆盖性别、地域与职业三个维度,将任务从直接合理性判断重构为社会共识估计,并区分保留语义极性的风格化包装与反转表面极性的反讽包装。对六个具备中文能力的大语言模型的评测显示:所有模型均表现出显著的身份偏见效应,五个模型出现显著负向风格化包装效应,反讽迁移呈明显跨模型梯度。结果表明表达形式并非偏评估的透明载体,反讽下的低分不应直接解读为偏见缓解。

  13. arXiv · cs.AI38

    TQG-Exp:用轨迹质量反馈改进大语言模型智能体的经验学习

    论文提出 TQG-Exp,一个以轨迹质量为导向的经验学习框架,通过引入 Trajectory Quality Loss(TQL)将任务完成度与过程质量共同作为学习信号,并利用成对 rollout 估计检索经验的贡献以优化经验效用与检索。在 ALFWorld、WebShop 和 ScienceWorld 三个基准上,TQG-Exp 的 Avg.@3 较最强基线在 DeepSeek-V4-Flash 与 Qwen3.5-Flash 上分别提升 4.50 和 8.55 个百分点。

  14. arXiv · cs.CL34

    DRIFT:通过依存推理改进大语言模型的方面情感四元组预测

    研究者提出 DRIFT,将依存句法树线性化后直接注入 LLM 提示词作为显式关系上下文,使模型对 aspect-opinion 依赖进行推理,并集成检索增强的 in-context learning 与基于 LLM 的语法感知裁决机制。在 SemEval Rest15、Rest16 和 ACOS 上,DRIFT 在对比的生成式 ASQP 方法中表现最佳,Rest15 和 Rest16 分别达到 54.47% 和 64.10% F1;裁决机制还表明 exact-match 指标系统性低估了语义正确的预测。

  15. arXiv · cs.AI35

    WeatherBridge:面向预训练气象预报模型的预报感知多源输入适配方法

    WeatherBridge 是一个源条件适配器,用 Swin-UNet 预测结构化残差修正,将 GFS、HRES、CMA 等业务 NWP 初始场映射到 ERA5 参考状态,且无需更新预训练的 FuXi 模型;训练目标结合纬度加权 ERA5 重建与 One-step Rollout Alignment(ORA)。在 2025 年 1 月 1 日至 11 月 22 日的评估中,FuXi 在 6–240 小时预报的 18 组源-变量组合中 17 组 RMSE 下降,中位数降幅 10.2%,最大 46.3%,且该适配器还能提升 FengWu 在 GFS 输入上的表现。

  16. arXiv · cs.CL22

    BioNEL-RAG:无需训练、基于 RAG 与大语言模型的生物医学实体链接框架

    研究者提出 BioNEL-RAG,一种无需训练的生物医学实体链接(BioNEL)框架,用 RAG 模块检索候选实体、LLM 模块结合上下文完成实体规范化。该方法无需在基因、疾病或化合物等子领域数据集上微调,性能即可与现有依赖领域数据训练的方法相当,提升了跨领域适应性。

  17. arXiv · cs.CL32

    谁获得尊重?孟加拉语敬语分配偏见的反事实基准

    该基准利用孟加拉语第三人称必须选择普通或敬语语体的特点,通过英译孟翻译测试 LLM 如何分配尊敬。评测集含 2,016 个句子、覆盖 72 种职业,给出 0–100 的 Honorific Bias Score(HBS),九个模型 HBS 在 19.9 到 70.1 之间。职业解释了 3.2%–51.5% 的语体选择方差,而性别最多仅 1.2%。

  18. arXiv · cs.CL36

    CUSE:基于反事实引导与在线自蒸馏的多模态大模型细粒度遗忘框架

    CUSE 是一种面向多模态大语言模型的反事实引导在线自蒸馏遗忘框架,通过移除目标相关证据构造反事实输入,利用 token 概率变化定位需更强遗忘的 token,并以冻结的原始模型副本作为教师进行 token 级蒸馏,同时确定遗忘与保留目标。在 MLLMU-Bench 上,CUSE 将遗忘集 ROUGE-L 降低 33.6%,保留集 ROUGE-L 比最强基线高 1.2%。

  19. arXiv · cs.CL18

    面向亚马孙通用语 Nheengatu 的开源机器翻译系统与可复现语料库管线

    研究者构建了迄今最大的葡萄牙语—Nheengatu 平行语料库(14.5k 句对),以 2023 年巴西联邦宪法官方翻译为核心,并发布首个开源权重双向 MT 模型。最终系统在文章不相交的宪法文本上达 31.7–32.8 chrF++,近域集 64.1–64.5,语音 45.2–47.5;加入转写口语语料使语音 chrF++ 提升 24–27 分。更大的 NLLB 模型仅改善译入葡语、不改善译入 Nheengatu 的效果。

  20. arXiv · cs.CL21

    基于统计机器翻译、命名实体识别与语义索引的阿姆哈拉语-英语跨语言问答系统

    一篇 arXiv 论文提出双向阿姆哈拉语-英语跨语言问答(CLQA)系统,整合统计机器翻译、最大熵命名实体识别与语义索引。阿姆哈拉语到英语检索达到 72% 精确率、79% 召回率,英语到阿姆哈拉语达到 65% 精确率、70% 召回率,表明模块化翻译-检索架构在低资源条件下也能提供有效的跨语言访问。

  21. arXiv · cs.CL48

    Vela:以用户行为作监督激发 LLM 智能

    Vela 框架将 100,000 名用户的匿名真实行为数据转化为 91 类真实任务模板、共 100,000 个任务,经难度过滤后保留约 75,000 个任务及其训练轨迹。基于这些轨迹微调 Qwen3.6-35B-A3B,用户相关任务较基础模型最高提升 11.5 分,通用基准平均提升 4 分;微调后再做强化学习比直接从基础模型强化学习最高多 7.7 分。

  22. arXiv · cs.CL41

    TasteBench:如何构建真正衡量“品味”的基准

    arXiv 论文提出 TasteBench,一个跨视觉、品牌、书籍和科技类别的成对 good-vs-bad 基准,采用冻结评分标准和仅专家金标(panel n>=3,一致率 >=0.60)。在 n=250 对的 Round-1 试点中量化出三类效度威胁:位置偏置(always_item_a 得分 0.956)、文件名词汇泄漏(0.912)以及难度天花板(五个 VLM 在 craft 类别均达 1.0)。团队发布参考 eval harness 和 side-randomization 工具,可将位置偏置从 0.916 降至 0.495/0.505。

  23. arXiv · cs.CL42

    Lingdan-V2:面向中医临床推理的大语言模型(4B/8B/14B)

    Lingdan-V2 是 4B、8B、14B 参数的中医大语言模型家族,采用持续预训练、推理监督与以方剂为核心的强化学习对齐框架,用于中医临床决策支持和方剂推荐。在含 25,620 条专家核验条目的公开基准上,14B 强化对齐模型方剂生成 F1 达 37.0,超过总参数 671B 的 DeepSeek-R1 的 32.3;在 4,348 例脾胃病回顾性临床数据集上 F1 为 52.8,剂量一致性提升。

  24. arXiv · cs.CL28

    VoTSpeech:在指令跟随 TTS 中将音色设计与语音生成解耦

    VoTSpeech 通过显式中间语音潜变量,将音色设计与语音生成解耦。该系统基于共享语言模型骨干,先用 flow 模块从文本指令预测连续语音潜变量,再同时作为语言模型与 Acoustic DiT 的共享条件,最后由 audio VAE 解码器生成波形;语音潜变量由 speaker embeddings 与时间池化的 audio VAE 特征联合监督。VoTSpeech 在 InstructTTSEval-ZH 上表现强劲,与强开源模型相比具备竞争力且保持高自然度,代码、模型与音频样本已开源。

  25. arXiv · cs.CL42

    PVFH-Bench:评测视觉语言模型中前提诱导的视觉固着幻觉

    PVFH-Bench 基准用于系统评测视觉语言模型(LVLM)的"前提诱导视觉固着幻觉"(PVFH),即模型接受错误文本前提后,对并不存在但视觉上合理的对象生成回答。该基准自动构造视觉易混淆的缺失目标并配诊断子集,对 10 个 SOTA LVLM 的实验显示所有模型均高度易感,且显式链式推理(CoT)会进一步加剧该失败模式。

  26. arXiv · cs.CL36

    审计开源 Jev 风格模型的检索请求独立性

    一项研究在 92 条 TREC 检索查询构造的 276 个三段落状态上,审计了七个开源 Jev 风格检查点的请求独立性。请求扩展使 Nimble 的判断出现 9.1%/8.0% 的严格二元翻转,并在阈值 0.5 下改变 TREC DL2019/2020 中 21.4%/18.9% 的选择或弃权动作。字段掩码将全部 70 次请求集翻转追溯到提示词中序列化的 schema 字段,Von 修复共享分隔符位置可消除两处资格性偏好翻转。

  27. arXiv · cs.CL22

    FASD 方法解耦多模态大模型遗忘中的知识遗忘与拒答学习

    arXiv 论文提出 Forget-Aware Self-Distillation(FASD),针对多模态大模型遗忘评估只看停止输出导致的两类问题:抑制目标知识引发幻觉、拒答训练只是改变表面行为。FASD 分为行为与知识两条通道,前者从忽略提示的模型副本蒸馏拒答行为并掩蔽 target tokens,后者直接抑制 ground-truth 答案片段,实现"诚实无知":模型真正遗忘目标知识且能识别自身知识边界,同时保留数据性能。代码和数据将在论文发表后发布。

  28. arXiv · cs.CL39

    微调策略而非仅数据:面向 HR 推荐系统的嵌入模型性别与刻板印象偏差的统计学严格审计

    一项审计用 Bias-in-Bios 和 StereoSet 基准评估了六个多语言句子嵌入模型(LaBSE 与 E5 家族),并修正了 naive 显著性检验中的非独立性问题。结果显示 E5-Base 的知识蒸馏微调显著加大 Bias-in-Bios 偏差(Δ=-0.177,p<10⁻⁸),而二分类微调无统计学差异(p=0.218)。微调策略因此成为 HR 推荐系统设计的可操作杠杆。

  29. arXiv · cs.CL40

    基于均匀信息密度的偏好优化方法 UIDPO

    研究者将心理语言学理论 Uniform Information Density 引入大语言模型偏好优化,提出 UIDPO 算法,通过全局标准差与局部二阶差分组合度量信息均匀度并纳入优化目标。与此前 SOTA 方法 SimPO 相比,UIDPO 在 AlpacaEval2、ArenaHard 和 MT-Bench 上取得相当或更优的表现,代码仓库已开源。

  30. arXiv · cs.CL40

    Reward-Aligned Distillation(RAD):基于奖励对齐加权蒸馏信号提升 LLM 推理

    论文提出 Reward-Aligned Distillation(RAD),一种双层框架,通过预测每个 token 监督信号对学生模型更新后奖励的影响来加权 on-policy 蒸馏信号。在相同训练响应预算下,RAD 在六个竞赛数学基准上比最强基线提升 Qwen3-1.7B(non-thinking)6.5 个百分点、Qwen3-4B-Instruct-2507 2.5 个百分点;在 LiveCodeBench-v6 上,Qwen3-1.7B(non-thinking)与 OLMo3-7B-Instruct 分别达到 54.69% 和 58.67% pass@1,超过最强基线 8.7 和 6.4 个百分点。简化变体 RAD-Simple 在同等预算下取得相近数学准确率。

  31. arXiv · cs.CL33

    LongHisDoc:首个中文长篇历史文档理解基准发布

    LongHisDoc 是首个面向长篇(整本)中文历史文档理解的基准,包含来自 101 份 PDF 的 1,012 条专家标注 QA 对,平均每份 85.1 页、42,776.4 tokens,覆盖 10 个类别和单页、跨页、多跳、不可回答四类问题。评测显示最强 LVLM 和 LLM 准确率仅 62.9% 和 69.9%,同时基准还评测了多模态检索器与端到端 RAG 性能,基准和评测代码已开源。

  32. arXiv · cs.CL49

    Q-NeuS:面向大语言模型的查询自适应神经元调控框架

    arXiv 论文提出 Q-NeuS,一种查询自适应的 LLM 神经元调控框架,根据每个输入动态决定调控哪些神经元及调控幅度。该框架构建主题引导的候选神经元空间,用 Query-Adaptive Gate 生成逐神经元调制系数,并通过 Neu-GRPO 基于多种干预配置的相对表现训练。基座 LLM 全程冻结,推理时无需任务或主题标签,实验显示其在多模型与 benchmark 上均有一致提升并具跨 benchmark 迁移性。

  33. arXiv · cs.CL32

    AphaVoice:面向失语症患者模拟的文本转语音模型

    研究者推出 AphaVoice,一种专为合成高度逼真失语语音设计的 TTS 框架,用于医疗人员训练模拟。对比 SOTA TTS 系统的评测显示,其能更好地捕捉构音障碍这一临床特征,在时间指标上超越现有模型并保持说话人身份一致。借助 latent space shifting,模型还支持多说话人生成,为失语症医疗训练与临床模拟提供可扩展的高保真工具。

  34. arXiv · cs.AI33

    语言模型能玩好维基百科游戏吗?

    一项 arXiv 研究用“维基百科游戏”评测语言模型的信息检索能力,要求模型仅通过文章链接到达目标条目。研究者在本地构建了大规模维基百科图谱和基于 OpenAlex 的论文引用图谱,对比了嵌入向量模型与 LLM 在五种语言和五个学术数据集上的表现,并与人类及 TF-IDF 基准比较。结果显示没有任何模型显著超越人类,但 GPT-o3 mini、GPT-4o、QwQ:32B 和 DeepSeek-R1:70B 达到了可比水平,且性能排名随语言和主题变化。

  35. arXiv · cs.AI24

    Hide and Seek:面向黑盒视觉模型的无需权重与标注的概念级归因解释方法

    研究者提出 Hide and Seek(HnS),一种概念级归因方法,无需访问模型权重或概念标注数据集即可解释黑盒视觉模型。HnS 借助视觉-语言模型检索概念对齐图像、定位并遮蔽概念区域,通过对比遮蔽前后模型输出的变化来度量归因。该方法在 CelebA 和 COCO-Stuff 上验证,与真值归因的一致性优于现有方法,并可用于图像描述生成和卫星图像分割等现有方法无法处理的任务。

  36. arXiv · cs.CL58

    RSI-Anything:基于世界模型实现递归自我改进的通用框架

    Taoyong Cui 等人在 arXiv 发布 RSI-Anything(arXiv:2610.13912),一个基于 JEPA-Anything 的领域通用递归自我改进(RSI)框架,用预测式世界模型指导动作与学习数据选择,并通过组件与兼容性检查决定更新后策略-模型对的保留。代码修复中成功率先从静态验证器的 26.3% 提到预测选择的 29.2%,经世界模型适配后达 31.2%;GUI 任务完成率提高且平均动作减少 39.4%;五个连续策略版本使实验室规划得分从 21.80% 升至 46.01%;40 次实验预算下反应优化平均最优产率 96.15%,优于贝叶斯优化的 82.16%。

    推荐理由:论文用预测式世界模型替代昂贵外部反馈来驱动递归自我改进,并给出代码修复、GUI、实验规划等多域的可复核数字。

  37. arXiv · cs.CL24

    VLM 研究揭示:空间关系表示的保真度低于词汇先验

    arXiv 论文提出 EICS 指标与 CASP-VL 基准(基于 Visual Genome 场景图的空间扰动),检验 VLM 内部表示对概念与空间关系的编码。结果显示多种 VLM 架构对空间关系的表示明显不如词汇信息保真,即使这些模型在组合性 benchmark 上远高于随机水平。关系信息在谓词自身 token 处可识别,但经 (EOS) 聚合或 mean pooling 形成全局表示后丢失。

  38. arXiv · cs.AI17

    重新审视表格数据深度回归:目标函数与全局早停的局限

    该 arXiv 论文系统重评了表格数据深度回归的多种目标函数,发现多数相比调优后的 MSE 基线收益有限或不稳定,而 quantile loss 在多个神经骨干上带来一致改进。研究进一步指出不同噪声水平的区域最优训练轮数不同,单一全局早停点会迫使不确定性区域之间妥协;作者提出结合输入相关标签平滑的异方差感知 quantile loss 扩展,在部分骨干上有所提升。

  39. arXiv · cs.CL28

    结构自动机如何改进神经语义解析

    arXiv 论文提出接受路径解码(APD),在长度受限下保证语义解析输出可被自动机接受,DRS 上 Smatch++ 较局部掩码提升 5.1 和 2.4 点,AMR 上提升 6.4 和 3.2 点。事后处理方面,训练数据受限时 10.2% 的输入在 8 个无约束采样下仍无有效输出,全量数据时降至 0.4%。训练中惩罚被自动机拒绝的 token 在 10% 训练进度后可将开发集 Smatch++ 提升 3.6-11.0 点,但该优势随训练推进逐渐消失。

  40. arXiv · cs.AI34

    任务上下文如何塑造大语言模型中组件的角色

    一项针对五个开源权重模型(跨四个模型族、1.5B-14B 参数)的研究发现,任务变化会重新分配注意力头的 influence。在 Gemma-2-9B 和 Qwen3-14B 中,激活编辑可在保持指令不变的情况下切换模型读取的事实,同一批 head 会响应不同的图事实并以不同方式影响后续组件;对应的线性响应映射将预测均方误差在 Gemma 中降低 53.6%、Qwen 中降低 5.0%。这表明任务上下文同时改变共享组件响应的内容及其对后续计算的作用方式。