开源项目用 GRPO 从零训练 Qwen2.5-1.5B,验证集数学准确率升至88.4%
热点事件持续更新
开源项目用 GRPO 从零训练 Qwen2.5-1.5B,验证集数学准确率升至88.4%
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Vansh8010-boop 在开源仓库 grpo-reasoning 中用 PyTorch 从零实现 GRPO 并结合 LoRA,从零训练 Qwen2.5-1.5B-Instruct 解数学题,已发布第 4 周进展。结果显示:加入 GRPO 后 GSM8K 测试准确率从 75.8% 微降至 75.7%,但留出验证集准确率从 83.4% 升至 88.4%,仓库的 docs/week4.md 对此有解释。 训练 500 步约需两块 T4 GPU(一块用于训练、一块用于 vLLM)运行约 12 小时;vLLM 没有 Windows 版本,只能在 Kaggle 或 Linux GPU 环境安装。评估与训练脚本及各 checkpoint 结果均开源,可复现。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 13:38
用 GRPO 从零训练 Qwen2.5-1.5B-Instruct 提升数学推理能力报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- GitHub · 灵魂体仓库用 GRPO 从零训练 Qwen2.5-1.5B-Instruct 提升数学推理能力
该开源项目用 PyTorch 从零实现 GRPO 结合 LoRA,训练 Qwen2.5-1.5B-Instruct 解数学题,已完成第 4 周。加 GRPO 后 GSM8K 测试准确率从 75.8% 微降至 75.7%,但留出验证集从 83.4% 升至 88.4%;训练 500 步约需两块 T4 跑 12 小时,评估与训练脚本及各 checkpoint 结果均开源可复现。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。