GitHub · 灵魂体仓库·· 8 天前精选AI 评分55
sikkatu/recipes 仓库提供 4× RTX PRO 6000 上大模型部署的硬件绑定配方
sikkatu/recipes
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/sikkatu/recipes
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
sikkatu/recipes 仓库为在 4× RTX PRO 6000(96 GB GDDR7,TP4,无 NVLink)上服务大开源权重 LLM 提供硬件绑定、经验证的部署配方。配方绑定容器 digest、模型 revision 和硬件实测值,给出带原始输出的指标,并包含 DeepSeek-V4.1-Flash、GLM-5.3-Flash、GLM-5.3、MiMo-V2.6-Pro 四个草稿状态的 MoE 专家驻留平衡配方;配方以 MIT 许可发布,设有 schema、digest、health、quality、performance 五道验证门禁。
推荐理由
仓库用硬件快照、镜像 digest 和五道门禁把部署数字固定到可复现,还记录了失败尝试的台账。
来源:GitHub · 灵魂体仓库 · github.com