跳到正文
GitHub · 灵魂体仓库·· 19 天前AI 评分46

natonet-labs/local-llm-rag-qdrant-macos:在 Mac 上用 Ollama + Qdrant 搭建本地 RAG 教程

natonet-labs/local-llm-rag-qdrant-macos

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/natonet-labs/local-llm-rag-qdrant-macos

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

这是一个 macOS 本地 RAG 管线教程:Ollama 运行预训练 Mistral 模型,Qdrant 存储 PDF 的嵌入向量,模型本身保持冻结,仅基于检索到的文档片段回答问题。教程要求 32 GB 内存的 Mac,涵盖安装 Ollama、用 Rust 从源码构建 Qdrant(默认监听端口 6333)、创建 Python 虚拟环境,并通过 API 把 RAG 服务暴露给局域网内的 Windows、iPad 或 iPhone 设备。

来源:GitHub · 灵魂体仓库 · github.com