GitHub · 去对齐工具与仓库·· 3 小时前AI 评分28
Adaptive LLM Orchestrator:面向 LLM 应用的智能模型路由与缓存编排系统
kumarakshu/adaptive-orchestrator
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/kumarakshu/adaptive-orchestrator
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
kumarakshu 开源了 Adaptive LLM Orchestrator,一个让 LLM 应用更高效、灵活、省成本的智能编排系统,按"分析→路由→执行→验证→缓存→复用"流程工作。系统提供响应缓存(默认 TTL 3600 秒,可选 Redis 存储)、基于 context_id 的会话上下文管理、任务检查点与响应验证升级机制。内置 Google Gemini、OpenAI、Anthropic 适配器,经 FastAPI 提供 REST API;已验证的演示使用 Google Gemini 和内存后端。
来源:GitHub · 去对齐工具与仓库 · github.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。