Reddit · r/LocalLLaMA· /u/chibop1·· 16 天前AI 评分57
Reddit 用户实测 64GB Mac 用 oMLX 跑 Qwen3.8-Flash-Next-oQ4e-mtp 量化模型
OMG! If you have a Mac with 64GB, try Qwen3.8-Flash-Next-oQ4e-mtp with oMLX!
来源与原文
Reddit · r/LocalLLaMA
作者：/u/chibop1
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x2tstj/omg_if_you_have_a_mac_with_64gb_try/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit 用户 /u/chibop1 称在 M3Max 64GB Mac 上用 oMLX 最新 commit 成功运行 Qwen3.8-Flash-Next-oQ4e-mtp，自己从 Qwen 仓库手动量化为 OQ4E，约 4.72 BPW。4K 上下文生成 1K token 可达 30 tok/s，最长跑过 130k 上下文；真实会话实测 prompt 处理 140.0 tok/s、生成 15.8 tok/s、缓存效率 90.9%，并给出了 memory guard、SSD N-gram Offload、MoE Expert Offload 等 oMLX 设置。
来源：Reddit · r/LocalLLaMA · reddit.com