Reddit 用户实测 64GB Mac 用 oMLX 跑 Qwen3.8-Flash-Next-oQ4e-mtp 量化模型
Reddit 用户 /u/chibop1 称在 M3Max 64GB Mac 上用 oMLX 最新 commit 成功运行 Qwen3.8-Flash-Next-oQ4e-mtp,自己从 Qwen 仓库手动量化为 OQ4E,约 4.72 BPW。4K 上下文生成 1K token 可达 30 tok/s,最长跑过 130k 上下文;真实会话实测 prompt 处理 140.0 tok/s、生成 15.8 tok/s、缓存效率 90.9%,并给出了 memory guard、SSD N-gram Offload、MoE Expert Offload 等 oMLX 设置。