Reddit · r/LocalLLaMA· /u/Inside-Pen-8395·· 1 天前精选AI 评分62
24GB M5 MacBook Air 上跑 Qwen3.8-Flash-Next Q2 量化，解码达 49 t/s
Flash Next (Q2) on a 24GB M5 MacBook Air: 49 t/s decode with Splash expert streaming
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Inside-Pen-8395
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xezdgs/flash_next_q2_on_a_24gb_m5_macbook_air_49_ts/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
/u/Inside-Pen-8395 在 24GB M5 MacBook Air 上以 Splash 1.4.0 的约 800 行 fork 运行 Qwen3.8-Flash-Next Q2 量化，24,576 个专家槽位中约 6,800 个驻留 ~8.8 GB 内存，其余从 SSD 按需流式读取，支持 256K 上下文，解码平均 48.8 t/s（stock 为 28.8）。
推荐理由
作者实测了 Qwen3.8-Flash-Next 在 24GB 内存下的 SSD 专家流式方案，给出解码速度、预填充和 LiveCodeBench 对照数据。
来源：Reddit · r/LocalLLaMA · reddit.com