arXiv · cs.AI· Wei Chen·· 6 天前AI 评分37
RubricOpt:面向偏好优化的语义评分标准自修订框架
RubricOpt: Self-Revision of Semantic Rubrics for Preference Optimization
来源与原文
arXiv · cs.AI
作者:Wei Chen
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.29491v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
RubricOpt 是一个让策略模型在偏好优化中自修订语义评分标准(rubric)的框架:模型诊断自身无评分标准时的输出,修订未覆盖重复失败的条款,并通过确定性门控校验证据引用与语义锚点。修订后的 rubric 在训练中引导 DPO,评估时移除。在能力与开放式生成基准上,rubric 条件化优于普通 DPO,但收益与回退因模型和数据集而异,修订的增量效果喜忧参半。
来源:arXiv · cs.AI · arxiv.org