GitHub · 灵魂体仓库·· 18 天前AI 评分41
finetuning-deployment-pipeline：开源模型 LoRA/QLoRA 微调与部署入门项目
Mehta-Amit-Codes/finetuning-deployment-pipeline
来源与原文
GitHub · 灵魂体仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/Mehta-Amit-Codes/finetuning-deployment-pipeline
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 开源 starter 项目 Mehta-Amit-Codes/finetuning-deployment-pipeline，用 Hugging Face PEFT/TRL 对开源模型（默认 Qwen/Qwen2.5-1.5B-Instruct）做 LoRA/QLoRA 微调，通过 FastAPI 提供 /generate、/compare 等接口，并用 Streamlit 对比 base 与微调模型。评测采用成对比较和 bootstrap 95% 置信区间，xAI（Grok）API 仅作可选评分 judge，并可按 /admin/eval-score 低于 rollback.min_score 时回退到 base 模型。
来源：GitHub · 灵魂体仓库 · github.com