独立复现研究验证 DNO 对齐方法效果
先了解这件事
Austin Tsai 等研究者在 arXiv 论文(2611.05373)中独立复现了 Direct Nash Optimization(DNO-Prct)对齐方法,在 Llama 3.1 8B Instruct 和 Mistral 7B Instruct v0.1 上验证其通过逼近两人偏好博弈 Nash 均衡实现模型对齐。三轮迭代后,两模型在 AlpacaEval 2.0 上的 LC 胜率分别从 31.7% 升至 45.3%、从 6.8% 升至 18.4%,调优后的 8B 模型各项胜率超过 Llama 3.1 70B Instruct。 用同族开源模型替代 GPT-4o 做标注仍保留 62%(Llama)和 82%(Mistral)的增益。论文同时说明:所有结果均为单次运行,且 GPT-4o 既是标注教师也是评测裁判,作者讨论了这对所报增益的影响;实验于 2024 年用当时可用的模型和 API 完成。
AI 根据报道生成 · 11 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- arXiv · cs.CLDirect Nash Optimization(DNO)对齐语言模型通用偏好的实证研究
研究者独立复现 Direct Nash Optimization(DNO-Prct),在 Llama 3.1 8B Instruct 和 Mistral 7B Instruct v0.1 上验证其通过逼近两人偏好博弈 Nash 均衡实现模型对齐的效果。三轮迭代后,两模型在 AlpacaEval 2.0 上的 LC 胜率分别从 31.7% 升至 45.3%、从 6.8% 升至 18.4%,调优后的 8B 模型各项胜率超过 Llama 3.1 70B Instruct;用同族开源模型替代 GPT-4o 做标注仍保留 62%(Llama)和 82%(Mistral)的增益。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 511月5日 03:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。