跳到正文
GitHub · 灵魂体仓库·· 20 天前精选AI 评分69

mii-llm 开源 Palingenesis:一条命令完成 LLM 微调的训练工具

mii-llm/palingenesis

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/mii-llm/palingenesis

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

mii-llm 在 GitHub 开源了 Palingenesis,一款零配置的 LLM 微调工具,通过 pgs autopilot 可对 Qwen/Qwen3.5-4B 等模型自动完成训练。工具支持 Agentic masking、SeCO 超长序列、DPO 及其变体、on-policy 蒸馏和基于 Docker 容器的 Harbor 式 Agent RL;Qwen3.5-4B 微调(训练注意力通路,36% 权重)约需 16 GiB 显存,并附 RTX 4090 到 8×A100 的多档配置。

推荐理由

原文给出从数据准备到 RL 的完整微调流程和显存数字,读者可以按硬件配置直接复用或挑选其中的训练方法。

来源:GitHub · 灵魂体仓库 · github.com