GitHub · 灵魂体仓库·· 20 天前精选AI 评分69
mii-llm 开源 Palingenesis:一条命令完成 LLM 微调的训练工具
mii-llm/palingenesis
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/mii-llm/palingenesis
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
mii-llm 在 GitHub 开源了 Palingenesis,一款零配置的 LLM 微调工具,通过 pgs autopilot 可对 Qwen/Qwen3.5-4B 等模型自动完成训练。工具支持 Agentic masking、SeCO 超长序列、DPO 及其变体、on-policy 蒸馏和基于 Docker 容器的 Harbor 式 Agent RL;Qwen3.5-4B 微调(训练注意力通路,36% 权重)约需 16 GiB 显存,并附 RTX 4090 到 8×A100 的多档配置。
推荐理由
原文给出从数据准备到 RL 的完整微调流程和显存数字,读者可以按硬件配置直接复用或挑选其中的训练方法。
来源:GitHub · 灵魂体仓库 · github.com