kdraggoo/chatbot：一个自托管的 RAG 职业问答机器人开源

一位产品经理开源了自托管的 RAG 聊天机器人 kdraggoo/chatbot，用于回答关于自己职业的问题，不依赖第三方 LLM API，数据不出服务器。系统用 Ollama 运行 bge-m3 嵌入模型和 llama3.2:3b 生产模型，配合 Qdrant 向量库与 FastAPI，设 0.4 相似度阈值避免无据回答。截至 Sep 25, 2026 已处理 95 个问题、回答 84 个，中位响应 42 秒、p95 48 秒，目标是迁移到 GPU 并将首 token 延迟压到 5 秒以内。