Reddit · r/LocalLLaMA· /u/Forward_Jackfruit813·· 5 天前AI 评分20
本地 AI 玩家求升级建议:Strix Halo 96GB 跑 Qwen Flash Next,游戏主机能否兼顾 GLM 5.3
Next logical upgrade?
来源与原文
Reddit · r/LocalLLaMA
作者:/u/Forward_Jackfruit813
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xcniy3/next_logical_upgrade/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一位 LocalLLaMA 用户用 GMKTek Evo X-2(Strix Halo)96GB 以 HaloGen Flash 跑 Qwen Flash Next,240k 上下文下达到约 1700tps prefill 和 50+ TPS decode。他希望在搭载 5700X3D、128GB DDR4 和 3080Ti 的游戏主机上跑 Maya(用 GLM 5.3)并让 Flash Next 编排,但内存或性能略显不足,正在二手 Threadripper/EPYC、加 3090、多 GPU 或 Strix Halo 外接 eGPU 之间权衡。
来源:Reddit · r/LocalLLaMA · reddit.com