HarA:基于 Fused Gromov-Wasserstein 几何的 RLVR 分层信用分配方法
研究者提出分层信用分配方法 HarA,改进 GRPO 等基于分组的 RLVR 方法对所有 token 赋予相同优势的问题。HarA 将 rollout 表示为隐状态和 token 位置的分布,用 Fused Gromov-Wasserstein(FGW)重心度量推理行为的语义新颖性,并引入 anchor 引导的线性化,使其可通过 Sinkhorn 算法高效求解。在三种分组 RLVR 方法上的即插即用实验显示,HarA 有效增强 LLM 探索,在多个推理基准上超越现有方法。