跳到正文
GitHub · 灵魂体仓库·· 8 天前精选AI 评分55

sikkatu/recipes 仓库提供 4× RTX PRO 6000 上大模型部署的硬件绑定配方

sikkatu/recipes

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/sikkatu/recipes

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

sikkatu/recipes 仓库为在 4× RTX PRO 6000(96 GB GDDR7,TP4,无 NVLink)上服务大开源权重 LLM 提供硬件绑定、经验证的部署配方。配方绑定容器 digest、模型 revision 和硬件实测值,给出带原始输出的指标,并包含 DeepSeek-V4.1-Flash、GLM-5.3-Flash、GLM-5.3、MiMo-V2.6-Pro 四个草稿状态的 MoE 专家驻留平衡配方;配方以 MIT 许可发布,设有 schema、digest、health、quality、performance 五道验证门禁。

推荐理由

仓库用硬件快照、镜像 digest 和五道门禁把部署数字固定到可复现,还记录了失败尝试的台账。

来源:GitHub · 灵魂体仓库 · github.com