跳到正文
arXiv · cs.AI· Wei Chen·· 6 天前AI 评分37

RubricOpt:面向偏好优化的语义评分标准自修订框架

RubricOpt: Self-Revision of Semantic Rubrics for Preference Optimization

来源与原文

arXiv · cs.AI

作者:Wei Chen

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.29491v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

RubricOpt 是一个让策略模型在偏好优化中自修订语义评分标准(rubric)的框架:模型诊断自身无评分标准时的输出,修订未覆盖重复失败的条款,并通过确定性门控校验证据引用与语义锚点。修订后的 rubric 在训练中引导 DPO,评估时移除。在能力与开放式生成基准上,rubric 条件化优于普通 DPO,但收益与回退因模型和数据集而异,修订的增量效果喜忧参半。

来源:arXiv · cs.AI · arxiv.org