GitHub · 去对齐工具与仓库·· 19 天前AI 评分22
herbal-remedies-guide-info:基于 Mistral 7B 的自托管 RAG 草药问答助手开源文档仓库
indidginus/herbal-remedies-guide-info
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/indidginus/herbal-remedies-guide-info
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 开源文档仓库 herbal-remedies-guide-info 展示一个基于《The Little Handbook of Natural Remedies》的 RAG 草药问答助手。它默认使用 Mistral 7B (v0.3) 自托管模型,通过 Ollama 本地开发、vLLM 4-bit 生产部署,在 Modal serverless GPU 上冷启动约 20 s、热响应约 3 s。检索采用手写混合方案(嵌入相似度加关键词评分),不依赖 LangChain 或第三方 LLM API,前端用 React 19 + TypeScript,并配有 Stripe 付费访问控制。
来源:GitHub · 去对齐工具与仓库 · github.com