跳到正文
热点事件持续更新

arXiv新论文提出PICO方法改进RLVR困难问题推理

1 篇报道1 个报道来源18 小时前更新

先了解这件事

AI 综述

Zehao Wang在arXiv(2610.36849)发布论文,提出Policy-Compatible Reinforcement Learning(PICO),针对RLVR在所有rollout都失败时学习信号归零的问题。 方法上,PICO通过分布约束的联合解码,让专家数据在token层面引导解码并保持学生模型的相对token概率,用动态top-k机制在有限散度预算内约束采样分布,再通过重要性采样的混合行为目标与on-policy rollout联合优化。论文称实验显示PICO在多个推理数据集和agentic基准上持续超越标准RLVR及已有off-policy基线。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv · cs.AI
    PICO:面向困难问题的策略兼容联合解码方法

    一项 arXiv 研究提出 Policy-Compatible Reinforcement Learning(PICO),解决 RLVR 在所有 rollout 都失败时学习信号归零的问题。PICO 通过分布约束的联合解码,让专家数据在 token 层面引导解码并保持学生模型的相对 token 概率,用动态 top-k 机制在有限散度预算内约束采样分布,再通过重要性采样的混合行为目标与 on-policy rollout 联合优化。实验显示 PICO 在多个推理数据集和 agentic 基准上持续超越标准 RLVR 及已有 off-policy 基线。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。