arXiv · cs.AI· Yubing Wu·· 6 天前AI 评分44
DPO 计算图的随机剪枝：1.4x 训练加速与更低的峰值内存
Stochastic Pruning of the DPO Computation Graph: 1.4x Faster Training and Lower Peak Memory
来源与原文
arXiv · cs.AI
作者：Yubing Wu
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.29538v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 研究提出针对 DPO 计算图的随机剪枝统一框架，可独立对评分的响应位置、执行的响应前缀和反向传播的偏好分支进行采样，从而省略训练各阶段的计算。分析刻画了位置与序列剪枝引起的目标变化，并用逆概率加权得到条件无偏的单分支梯度估计器。实验显示分支剪枝相比拼接式 DPO 基线获得 1.426x 步时加速，训练时间较原版 DPO 降低约 30%，均值准确率略降。
来源：arXiv · cs.AI · arxiv.org