GitHub · 去对齐工具与仓库·· 2 天前AI 评分29
Chopinfer：兼容 OpenAI API 的 Rust LLM 推理服务器
logprobz/chopinfer
来源与原文
GitHub · 去对齐工具与仓库
发布时间：（北京时间）
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/logprobz/chopinfer
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Chopinfer 是一个提供 OpenAI 兼容 HTTP API 的 Rust LLM 服务器，面向 Linux x86_64 与 NVIDIA RTX PRO 6000 Blackwell 96 GB GPU（SM120）。已验证 MiMo V2.6 Flash、Qwen3.8 Flash 和 GLM 5.3 Flash 的多卡配置，其中 MiMo 与 Qwen 支持 2 或 4 卡，GLM 需 4 卡，并支持 AR、MTP、DFlash 等解码方式。
来源：GitHub · 去对齐工具与仓库 · github.com