GitHub · 去对齐工具与仓库·· 2 天前AI 评分24
Mattral 开源 rlpost:语言模型后训练(SFT、奖励模型、PPO、DPO)代码仓库
Mattral/rlpost
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Mattral/rlpost
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Mattral 在 GitHub 开源 rlpost 仓库,覆盖语言模型后训练的 SFT、奖励模型、PPO 和 DPO 实现,前身为 Improving-LLM-Models-with-RLHF-PPO-DPO。CPU 单测在 Python 3.12、torch 2.15.0+cpu 下收集 80 个测试,69 通过、11 个 DPO/PPO 测试失败;DPO 损失与 TRL 1.17.1 在 CPU 上对齐至 1e-6 内。仓库采用 Apache License 2.0,toy 模式使用 distilgpt2 与 Anthropic/hh-rlhf 的 1,000 行子集,训练循环尚未完全接通。
来源:GitHub · 去对齐工具与仓库 · github.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。