开源工具 Banach 发布：在内存不足机器上运行超 RAM 的 MoE 模型
热点事件持续更新
开源工具 Banach 发布：在内存不足机器上运行超 RAM 的 MoE 模型
1 篇报道1 个报道来源14 小时前更新
先了解这件事
AI 综述
开源工具 Banach 发布，可在 RAM 不足时运行超出内存容量的 MoE 大模型。它按路由器选择从 NVMe 并行拉取完整专家权重，输出与原版 llama.cpp 逐字节一致，同 RAM 预算下实测比页面缺页方式快 2.1 倍。 工具提供 banach plan 命令，下载前仅需读取几 MB GGUF 头即可预测速度，误差在 ±30% 以内；低精度冷专家副本附带保真度仪表，报告 top-1 变化率。目前实测速度数据来自 Linux x86_64 平台，其他平台的数字将陆续补入 docs/VALIDATION.md；DeepSeek V4 Flash (284B) 的速度数据仍是规划器预测而非常测，需在 128 GB 以上内存的机器上完成验证。
AI 根据报道生成 · 13 小时前更新
最新进展11月4日 23:31
Banach 发布：在内存不够的机器上运行超出 RAM 的 MoE 大模型报道时间线
沿着报道，了解事件的不同侧面。
11月4日
- GitHub · 灵魂体仓库精选Banach 发布：在内存不够的机器上运行超出 RAM 的 MoE 大模型
开源工具 Banach 发布，可在 RAM 不足时运行 MoE 大模型：它按路由器选择从 NVMe 并行拉取完整专家权重，输出与原版 llama.cpp 逐字节一致，同 RAM 预算下实测比页面缺页方式快 2.1x。下载前可用 banach plan 仅读取几 MB GGUF 头预测速度，误差在 ±30% 内；低精度冷专家副本会附带保真度仪表报告 top-1 变化率，DeepSeek V4 Flash (284B) 速度数据目前仍为规划器预测而非常测。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 1011月5日 01:00
- 近 24 小时变化
- –
02.557.510
02:0004:0006:0008:0010:0012:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。