跳到正文
GitHub · 去对齐工具与仓库·· 15 天前AI 评分53

krishna2700 开源 multi-model-ai-workspace 自托管多模型工作台

krishna2700/multi-model-ai-workspace

来源与原文

GitHub · 去对齐工具与仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/krishna2700/multi-model-ai-workspace

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

krishna2700 在 GitHub 发布 multi-model-ai-workspace,一个自托管应用,可在单一界面里与 OpenAI、Anthropic 等多家 LLM 供应商对话、横向对比并跟踪用量。功能包括 JWT 注册登录、逐 token SSE 流式输出、一次向 N 个模型并行发送同一提示词并对比延迟与估算成本、按模型拆分的用量面板,以及按任务标签、成本上限和可用性选择模型并在报错时自动回退的 ModelRouter。新增厂商只需实现 ProviderAdapter 接口;技术栈为 Next.js + FastAPI + PostgreSQL + Redis,支持 Docker Compose 一键部署,MIT 许可。

来源:GitHub · 去对齐工具与仓库 · github.com