跳到正文
我的
GitHub · 灵魂体仓库·· 14 小时前精选AI 评分67

Banach 发布:在内存不够的机器上运行超出 RAM 的 MoE 大模型

gautam1858/banach

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/gautam1858/banach

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

开源工具 Banach 发布,可在 RAM 不足时运行 MoE 大模型:它按路由器选择从 NVMe 并行拉取完整专家权重,输出与原版 llama.cpp 逐字节一致,同 RAM 预算下实测比页面缺页方式快 2.1x。下载前可用 banach plan 仅读取几 MB GGUF 头预测速度,误差在 ±30% 内;低精度冷专家副本会附带保真度仪表报告 top-1 变化率,DeepSeek V4 Flash (284B) 速度数据目前仍为规划器预测而非常测。

推荐理由

这个工具把专家级调度做进了 MoE 推理,且用实测数据区分了已验证结论和仅为预测的部分,透明度少见。

来源:GitHub · 灵魂体仓库 · github.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。