跳到正文
Reddit · r/LocalLLaMA· /u/Forward_Jackfruit813·· 5 天前AI 评分20

本地 AI 玩家求升级建议:Strix Halo 96GB 跑 Qwen Flash Next,游戏主机能否兼顾 GLM 5.3

Next logical upgrade?

来源与原文

Reddit · r/LocalLLaMA

作者:/u/Forward_Jackfruit813

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xcniy3/next_logical_upgrade/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一位 LocalLLaMA 用户用 GMKTek Evo X-2(Strix Halo)96GB 以 HaloGen Flash 跑 Qwen Flash Next,240k 上下文下达到约 1700tps prefill 和 50+ TPS decode。他希望在搭载 5700X3D、128GB DDR4 和 3080Ti 的游戏主机上跑 Maya(用 GLM 5.3)并让 Flash Next 编排,但内存或性能略显不足,正在二手 Threadripper/EPYC、加 3090、多 GPU 或 Strix Halo 外接 eGPU 之间权衡。

来源:Reddit · r/LocalLLaMA · reddit.com