arXiv · cs.CL· Yongyuan Li·· 17 天前AI 评分40
基于均匀信息密度的偏好优化方法 UIDPO
Uniform Information Density-Based Preference Optimization
来源与原文
arXiv · cs.CL
作者:Yongyuan Li
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.14578v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者将心理语言学理论 Uniform Information Density 引入大语言模型偏好优化,提出 UIDPO 算法,通过全局标准差与局部二阶差分组合度量信息均匀度并纳入优化目标。与此前 SOTA 方法 SimPO 相比,UIDPO 在 AlpacaEval2、ArenaHard 和 MT-Bench 上取得相当或更优的表现,代码仓库已开源。
来源:arXiv · cs.CL · arxiv.org