GitHub · 去对齐工具与仓库·· 8 天前精选AI 评分66
dragonfarm:在 R 中用自己的文档微调本地语言模型
tejas4patel/dragonfarm
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/tejas4patel/dragonfarm
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
tejas4patel 发布 R 包 dragonfarm,可从 PDF、Word、网页等文档自动生成问答训练数据,经人工审核后用 QLoRA 微调本地模型,内置 RAG 可直接基于文档作答。7B 模型 4-bit 加载可放进 8 GB 笔记本 GPU,示例中 Qwen2.5-7B-Instruct 在 RTX 406 上训练约 22 分钟,修复了 0.5B 版本答错的退换政策细节;0.5B 训练约 2-4 分钟。产出为 Hugging Face transformers 可加载的 adapter 或合并模型,MIT 许可,已上架 CRAN。
推荐理由
作者用同一批工单给出 0.5B 与 7B 微调前后的对照输出和耗时数据,读者可据此评估在自己文档上微调的可行路径。
来源:GitHub · 去对齐工具与仓库 · github.com