跳到正文
arXiv · cs.CL· Qi Yu·· 24 天前AI 评分30

HarA:基于 Fused Gromov-Wasserstein 几何的 RLVR 分层信用分配方法

Hierarchical Credit Assignment for RLVR on Fused Gromov-Wasserstein Geometry

来源与原文

arXiv · cs.CL

作者:Qi Yu

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.04344v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

研究者提出分层信用分配方法 HarA,改进 GRPO 等基于分组的 RLVR 方法对所有 token 赋予相同优势的问题。HarA 将 rollout 表示为隐状态和 token 位置的分布,用 Fused Gromov-Wasserstein(FGW)重心度量推理行为的语义新颖性,并引入 anchor 引导的线性化,使其可通过 Sinkhorn 算法高效求解。在三种分组 RLVR 方法上的即插即用实验显示,HarA 有效增强 LLM 探索,在多个推理基准上超越现有方法。

来源:arXiv · cs.CL · arxiv.org