跳到正文
GitHub · 去对齐工具与仓库·· 18 天前精选AI 评分59

SpectraLLM 开源:PDF 文档一键微调出本地领域模型

devdownin/SpectraLLM

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/devdownin/SpectraLLM

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 项目 devdownin/SpectraLLM 发布,宣称在单一应用内将 PDF、DOCX 等文档经混合检索问答后微调为本地模型,100% 本地运行、无云端 API。流程包括摄入、问答(关键词+向量混合搜索、reranking、ReAct 多跳推理)、QLoRA/DPO 微调和单文件 GGUF 导出,可配合 llama.cpp、Ollama 等运行。默认模型下载约 4.8 GB,需 Docker Engine 25+ 与 16 GB 内存,GPU 可选,AGPL-3.0 协议。

推荐理由

把文档摄入、混合 RAG、QLoRA 微调和 GGUF 导出整合成一个本地 Docker 项目,对想私有化部署知识库的人有可参考的完整流程。

来源:GitHub · 去对齐工具与仓库 · github.com