Reddit · r/LocalLLaMA· /u/_TheWolfOfWalmart_·· 18 天前AI 评分56
$2800 组装 8x Radeon Pro V620（256 GB VRAM）跑 Qwen3.8-Flash-Next，自建 vLLM 分支实现 60-100 t/s 解码
$2800 rig with 8x Radeon Pro V620 (256 GB VRAM) + custom vLLM fork = Qwen3.8-Flash-Next at 60 to 100 t/s decode and 3000+ t/s prefill
来源与原文
Reddit · r/LocalLLaMA
作者：/u/_TheWolfOfWalmart_
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x0wnz1/2800_rig_with_8x_radeon_pro_v620_256_gb_vram/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit 用户用 8 张二手 Radeon Pro V620（共 256 GB VRAM，约 $2800）组成本地推理机，在 llama.cpp prefill 仅 350-450 t/s 且 vLLM 不支持后，让 Claude 迭代出适配 RDNA2 的 vLLM 定制分支，Qwen3.8-Flash-Next 解码达 60-100 t/s、prefill 3000+ t/s。部署采用 PP=4、W4A16 路由专家加 BF16 其余权重、MTP 3 token drafting，关闭 MTP 时解码为 40-50 t/s，下一步验证 DeepSeek 和 GLM-5.3-Flash。
来源：Reddit · r/LocalLLaMA · reddit.com