跳到正文
GitHub · 灵魂体仓库·· 12 天前AI 评分42

context-aware-smart-llm-switching:Analyzer LLM 优先的智能模型切换与成本优化项目

ramakrishna293029-cpu/context-aware-smart-llm-switching

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/ramakrishna293029-cpu/context-aware-smart-llm-switching

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

GitHub 开源项目 context-aware-smart-llm-switching 用 Analyzer LLM 决定路由:简单问题由分析器直接回答,复杂编码、调试和数学问题切换到更强模型。项目支持 balanced、lowest_cost、fastest、highest_quality 四种路由策略,兼容 OpenAI、Azure、OpenRouter、Groq 等 OpenAI 兼容端点,提供 SSE 流式输出、自动 fallback、真实 token 用量与成本遥测,以及每日/每月美元预算上限(超限返回 429)。

来源:GitHub · 灵魂体仓库 · github.com