PICO：面向困难问题的策略兼容联合解码方法

一项 arXiv 研究提出 Policy-Compatible Reinforcement Learning（PICO），解决 RLVR 在所有 rollout 都失败时学习信号归零的问题。PICO 通过分布约束的联合解码，让专家数据在 token 层面引导解码并保持学生模型的相对 token 概率，用动态 top-k 机制在有限散度预算内约束采样分布，再通过重要性采样的混合行为目标与 on-policy rollout 联合优化。实验显示 PICO 在多个推理数据集和 agentic 基准上持续超越标准 RLVR 及已有 off-policy 基线。