GitHub · 灵魂体仓库·· 12 天前AI 评分43
vacantfury/llm_utils：统一 LLM 提供商与推理路由的开源工具库
vacantfury/llm_utils
来源与原文
GitHub · 灵魂体仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/vacantfury/llm_utils
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
GitHub 开源库 llm_utils 为 OpenAI、Anthropic（Claude）、Google（Gemini）、DeepSeek、xAI、OpenRouter、AWS Bedrock、本地 HuggingFace 模型及 SLURM 集群 vLLM 提供统一调用接口，切换模型只需改一个枚举值。batch_chat 按预估成本自动路由，预估 ≥ $1 的任务走原生 batch API（5 折价格），更小的任务并发实时调用；遵循 semver，可按 git tag 固定版本安装。
来源：GitHub · 灵魂体仓库 · github.com