跳到正文
arXiv · cs.CL· Jihao Huang·· 11 天前AI 评分39

MGE-PO:面向数学推理的熵感知信用分配方法

MGE-PO: Entropy-Aware Credit Assignment for Mathematical Reasoning

来源与原文

arXiv · cs.CL

作者:Jihao Huang

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.23245v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

论文提出 MGE-PO,通过结合验证正确性与 rollout 生成熵的四象限(4Q)优势塑形,改进 GRPO 对同等奖励响应不做区分的问题,并辅以在线熵问题课程。在 Qwen3-8B-Base 上训练八个 epoch 后,4Q 使六基准 macro avg@32 绝对提升 3.23-3.69%、macro pass@32 提升 4.24-11.06%;在 Qwen2.5-7B-Base 上将四基准 macro avg@32 从 41.5% 提升至 45.4%。

来源:arXiv · cs.CL · arxiv.org