跳到正文
我的
GitHub · 去对齐工具与仓库·· 3 小时前AI 评分28

Adaptive LLM Orchestrator:面向 LLM 应用的智能模型路由与缓存编排系统

kumarakshu/adaptive-orchestrator

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/kumarakshu/adaptive-orchestrator

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

kumarakshu 开源了 Adaptive LLM Orchestrator,一个让 LLM 应用更高效、灵活、省成本的智能编排系统,按"分析→路由→执行→验证→缓存→复用"流程工作。系统提供响应缓存(默认 TTL 3600 秒,可选 Redis 存储)、基于 context_id 的会话上下文管理、任务检查点与响应验证升级机制。内置 Google Gemini、OpenAI、Anthropic 适配器,经 FastAPI 提供 REST API;已验证的演示使用 Google Gemini 和内存后端。

来源:GitHub · 去对齐工具与仓库 · github.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。