GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分57
lecharles 开源 llm-fine-tuner-agent-tester,在 Mac 上一键完成小型 LLM 的 QLoRA 微调与对比
lecharles/llm-fine-tuner-agent-tester
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/lecharles/llm-fine-tuner-agent-tester
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
lecharles 在 GitHub 发布 llm-fine-tuner-agent-tester,让用户在 Apple Silicon Mac 上用 MLX + QLoRA 微调小型开放权重 LLM,一条命令安装。流程包括用自然语言生成或从 Hugging Face、CSV/JSONL 导入 Q&A 数据集、训练时实时绘制 loss 曲线、将 adapter 融合后导出 GGUF 供 Ollama 运行,并在多列聊天界面对比微调模型、未微调 base 与 OpenAI、Anthropic 托管模型,回答限约 150 词。VPS 版只支持生成与对比,训练返回 425 需在 Mac 应用进行;需约 10 GB 磁盘空间,v0.1.0 已于 9 月 30 日发布。
推荐理由
原文给出了从数据集构建、QLoRA 训练到多列对比聊天的完整本地微调流程,读者可以照着在 Apple Silicon 上复现。
来源:GitHub · 去对齐工具与仓库 · github.com