跳到正文
10月3日周六
  1. arXiv · cs.CL30

    HarA:基于 Fused Gromov-Wasserstein 几何的 RLVR 分层信用分配方法

    研究者提出分层信用分配方法 HarA,改进 GRPO 等基于分组的 RLVR 方法对所有 token 赋予相同优势的问题。HarA 将 rollout 表示为隐状态和 token 位置的分布,用 Fused Gromov-Wasserstein(FGW)重心度量推理行为的语义新颖性,并引入 anchor 引导的线性化,使其可通过 Sinkhorn 算法高效求解。在三种分组 RLVR 方法上的即插即用实验显示,HarA 有效增强 LLM 探索,在多个推理基准上超越现有方法。

  2. arXiv · cs.CL50

    BPS:从边界失败学习提示条件偏好的双向偏好合成方法

    论文提出 Bidirectional Preference Synthesis(BPS),一种用于标准 DPO 的数据构造方法,为每个验证过的边界失败在原始提示下保留正向偏好对,并在合成的达成提示下增加反向对,使同一回复在错处被拒、在对处被选,无需改动 DPO 目标、训练奖励模型或在线采样。在 Qwen3-4B-Instruct-2507 上,BPS 保持原始侧成对排序的同时,把留出交叉锚点上的达成侧排序准确率从 6.8% 提升到 62.3%,在 Kimi-K2.6 跨教师探测下有类似变化,下游评测显示在多语言多轮指令遵循上与 Forward-DPO 分离最明显。论文共 18 页,链接 https://arxiv.org/abs/2610.04328v1。

10月2日周五
  1. Hugging Face Blog70

    Ai2 开源科研报告生成模型 AstaBrief 8B 及训练数据

    Ai2 开源了基于 Qwen3-8B 的科研报告生成模型 AstaBrief 8B 及训练数据,模型可将研究问题和检索到的文献片段转化为带引用的报告,已在 Asta 平台作为 Fast mode 上线。

    推荐理由:官方完整披露了 SFT 与 DPO 数据构建、引用密度过滤和评测细节,读者可复用其数据质量过滤方法。

  2. arXiv · cs.CL58

    arXiv 论文从强化学习视角解析 On-policy 蒸馏的收益与坍缩机制

    arXiv 论文 2610.03185 从强化学习视角解释 on-policy 蒸馏(OPD)为何有时提升性能、有时坍缩为过长且重复的生成:教师隐式奖励学生行为,即使教师自身很少表现出这些行为。

    推荐理由:论文用强化学习视角解释 on-policy 蒸馏为何有时提升性能、有时坍缩,并给出掩蔽不健康响应和 SFT 初始化两种缓解手段。