跳到正文
GitHub · 去对齐工具与仓库·· 19 天前AI 评分22

herbal-remedies-guide-info:基于 Mistral 7B 的自托管 RAG 草药问答助手开源文档仓库

indidginus/herbal-remedies-guide-info

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/indidginus/herbal-remedies-guide-info

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 开源文档仓库 herbal-remedies-guide-info 展示一个基于《The Little Handbook of Natural Remedies》的 RAG 草药问答助手。它默认使用 Mistral 7B (v0.3) 自托管模型,通过 Ollama 本地开发、vLLM 4-bit 生产部署,在 Modal serverless GPU 上冷启动约 20 s、热响应约 3 s。检索采用手写混合方案(嵌入相似度加关键词评分),不依赖 LangChain 或第三方 LLM API,前端用 React 19 + TypeScript,并配有 Stripe 付费访问控制。

来源:GitHub · 去对齐工具与仓库 · github.com