跳到正文
我的
GitHub · 去对齐工具与仓库·· 2 天前AI 评分24

Mattral 开源 rlpost:语言模型后训练(SFT、奖励模型、PPO、DPO)代码仓库

Mattral/rlpost

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/Mattral/rlpost

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Mattral 在 GitHub 开源 rlpost 仓库,覆盖语言模型后训练的 SFT、奖励模型、PPO 和 DPO 实现,前身为 Improving-LLM-Models-with-RLHF-PPO-DPO。CPU 单测在 Python 3.12、torch 2.15.0+cpu 下收集 80 个测试,69 通过、11 个 DPO/PPO 测试失败;DPO 损失与 TRL 1.17.1 在 CPU 上对齐至 1e-6 内。仓库采用 Apache License 2.0,toy 模式使用 distilgpt2 与 Anthropic/hh-rlhf 的 1,000 行子集,训练循环尚未完全接通。

来源:GitHub · 去对齐工具与仓库 · github.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。