GitHub · 灵魂体仓库·· 19 天前AI 评分42
Xorbits Inference（Xinference）3.0.0 发布
xorbitsai/inference
来源与原文
GitHub · 灵魂体仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/xorbitsai/inference
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Xorbits Inference（Xinference）发布 3.0.0 版本，提供语言、语音识别与多模态模型的部署和服务能力，支持单命令部署。新版本集成 Xagent 实现动态规划、工具调用与自主多步推理，新增自动批处理以提升吞吐，并内置 Qwen-Image-2.1、MiniCPM5-2B、MinerU2.5 等多款新模型。该库支持 OpenAI 兼容 RESTful API、分布式部署及 GPU/CPU 异构硬件加速，并提供企业版和 Xinference Cloud 托管服务。
来源：GitHub · 灵魂体仓库 · github.com