GitHub · 去对齐工具与仓库·· 22 天前精选AI 评分72
Distillery:把大模型蒸馏成单任务小模型的开源流水线
gelevanog/llm-distillation-pipeline
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/gelevanog/llm-distillation-pipeline
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
gelevanog 发布开源项目 Distillery,提供从教师模型生成与标注数据、LoRA 微调小模型到路由器分流评测的完整可复现流水线。
推荐理由
作者用真实跑通的数据展示蒸馏全流程的每一步收益与短板,包括路由器分流比例和每千条成本,方法可直接迁移到类似单任务场景。
来源:GitHub · 去对齐工具与仓库 · github.com