GitHub · 灵魂体仓库·· 12 天前AI 评分42
context-aware-smart-llm-switching:Analyzer LLM 优先的智能模型切换与成本优化项目
ramakrishna293029-cpu/context-aware-smart-llm-switching
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/ramakrishna293029-cpu/context-aware-smart-llm-switching
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 开源项目 context-aware-smart-llm-switching 用 Analyzer LLM 决定路由:简单问题由分析器直接回答,复杂编码、调试和数学问题切换到更强模型。项目支持 balanced、lowest_cost、fastest、highest_quality 四种路由策略,兼容 OpenAI、Azure、OpenRouter、Groq 等 OpenAI 兼容端点,提供 SSE 流式输出、自动 fallback、真实 token 用量与成本遥测,以及每日/每月美元预算上限(超限返回 429)。
来源:GitHub · 灵魂体仓库 · github.com