GitHub · 灵魂体仓库·· 14 小时前精选AI 评分67
Banach 发布:在内存不够的机器上运行超出 RAM 的 MoE 大模型
gautam1858/banach
来源与原文
GitHub · 灵魂体仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/gautam1858/banach
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
开源工具 Banach 发布,可在 RAM 不足时运行 MoE 大模型:它按路由器选择从 NVMe 并行拉取完整专家权重,输出与原版 llama.cpp 逐字节一致,同 RAM 预算下实测比页面缺页方式快 2.1x。下载前可用 banach plan 仅读取几 MB GGUF 头预测速度,误差在 ±30% 内;低精度冷专家副本会附带保真度仪表报告 top-1 变化率,DeepSeek V4 Flash (284B) 速度数据目前仍为规划器预测而非常测。
推荐理由
这个工具把专家级调度做进了 MoE 推理,且用实测数据区分了已验证结论和仅为预测的部分,透明度少见。
来源:GitHub · 灵魂体仓库 · github.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。