Reddit · r/LocalLLaMA· /u/turtleninja99·· 22 天前AI 评分38
64 GB Mac mini 上 MoE SSD 流式读取：decode 仍有 27% 时间 GPU 在等专家权重
MoE SSD streaming on a 64 GB Mac mini: GPU still waits 27% of decode on experts. Ideas?
来源与原文
Reddit · r/LocalLLaMA
作者：/u/turtleninja99
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1wy5fma/moe_ssd_streaming_on_a_64_gb_mac_mini_gpu_still/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit 用户在 64 GB Mac mini M5 上以 SSD 流式方式运行 qwen flash next q4（QFN 装不下内存），实现 17.5 tks decode、390 tks pp，热缓存命中率 75%，预取准确率 72%。
来源：Reddit · r/LocalLLaMA · reddit.com