Kapitsa 0.2.7 实测 2021 款 M1 Pro 16GB 跑 Qwen3.5 与 Nemotron 编码速度
How fast can a rusty Macbook M1 Pro 16Gb 2021 actually code with Qwen / Nemotron models? I ran benchmarks for Qwen3.5 4B, 9B Q4s, 35B; Nemotron Dory 4B, Nano 9B/v2.
来源与原文
Reddit · r/LocalLLaMA
作者：/u/DotaMate
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xcimmo/how_fast_can_a_rusty_macbook_m1_pro_16gb_2021/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
Kapitsa 贡献者 Ye 发布 0.2.7 版本，针对老款 Apple Silicon 芯片优化，并在 2021 款 MacBook Pro 14（M1 Pro、16GB）上对六个模型做了与同机最快竞品引擎的基准对比。Qwen3.5 4B/9B 解码达 97.2/56.8 tok/s，分别为 mlx-serve 的 1.56×/1.52×；Qwen3.6 35B-A3B 2-bit 达 52.2 tok/s，解码 1.21-1.35× llama.cpp；六个模型峰值内存均低于对手，Dory 4B 为 4.4 vs 11.5 GB。Nemotron Dory 4B 长上下文解码被 mlx-lm 反超，作者已开 issue 跟进。
作者给出六个模型在 16GB M1 Pro 上与最快竞品的逐项对比数据，含长上下文衰减和内存占用，可复现可查证。
来源：Reddit · r/LocalLLaMA · reddit.com