Reddit · r/LocalLLaMA· /u/Viktri1·· 17 小时前AI 评分31
数据点：2x M5U 集群运行 GLM 与 Qwen 测试
datapoint: 2x M5U cluster (GLM/Qwen)
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Viktri1
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xfybhu/datapoint_2x_m5u_cluster_glmqwen/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit 用户分享 2 台 M5U 256GB（80 核）通过 Thunderbolt 5 组成集群的推理数据：GLM 5.3 flash q6 集群 prefill 4.9k、decode 50 tok/s；Qwen Flash Next q6 集群 prefill 8k、decode 200 tok/s。作者此前用 Qwen 3.8 27B q4 仅达 prefill 1.4k、decode 100-120 tok/s，现因速度改用 Qwen Flash Next，并征求优化建议。
来源：Reddit · r/LocalLLaMA · reddit.com