GitHub · 灵魂体仓库·· 18 天前AI 评分47
LLM-Smart-Router:智能路由器将简单提示发给低成本模型、复杂提示发给强模型
SakshamSingh5224/LLM-Smart-Router
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/SakshamSingh5224/LLM-Smart-Router
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 开源项目 LLM-Smart-Router 发布 Phase 1A,构建一个把简单提示路由到本地 qwen2.5:1.5b(经 Ollama)、复杂提示路由到 Groq 免费层 openai/gpt-oss-120b 的网关,全部免费无需付费 API。路由标签基于 routellm/gpt4_dataset 数据集(约 119k 条 GPT-4 判分的提示),按 mixtral_score 划分低/高档。项目还包含 Phase 1B 的逻辑回归分类器路由(TF-IDF 加手工特征,按 ROC-AUC 选优并校准阈值)和 Phase 1C 的 FastAPI 网关与纯 HTML/CSS/JS 聊天前端。
来源:GitHub · 灵魂体仓库 · github.com