GitHub · 灵魂体仓库·· 19 天前AI 评分46
natonet-labs/local-llm-rag-qdrant-macos:在 Mac 上用 Ollama + Qdrant 搭建本地 RAG 教程
natonet-labs/local-llm-rag-qdrant-macos
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/natonet-labs/local-llm-rag-qdrant-macos
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
这是一个 macOS 本地 RAG 管线教程:Ollama 运行预训练 Mistral 模型,Qdrant 存储 PDF 的嵌入向量,模型本身保持冻结,仅基于检索到的文档片段回答问题。教程要求 32 GB 内存的 Mac,涵盖安装 Ollama、用 Rust 从源码构建 Qdrant(默认监听端口 6333)、创建 Python 虚拟环境,并通过 API 把 RAG 服务暴露给局域网内的 Windows、iPad 或 iPhone 设备。
来源:GitHub · 灵魂体仓库 · github.com