Reddit · r/LocalLLaMA· /u/BrightCandle·· 8 天前AI 评分34
9070 XT + RTX 3080 双卡跑 LLM 体验不佳:Qwen3.8 28B 仅 30-50 tok/s
The trial of a 9070XT + 3080, its not running well
来源与原文
Reddit · r/LocalLLaMA
作者:/u/BrightCandle
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x9vmjx/the_trial_of_a_9070xt_3080_its_not_running_well/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit 用户实测 9070 XT 搭配 RTX 3080 双卡运行 LLM,效果不佳:3080 仅 PCIE 4.0 x4,ROCm 和 Vulkan 表现也差,Qwen3.8 28B Q4_K-M 仅 30-50 tok/s,64k 上下文比 128k 掉速明显。层拆分优于张量拆分,MTP 可带来约 2x 提升,显示器必须接在 9070 XT 上,两卡 GPU 占用仅约 60% 和 30%。
来源:Reddit · r/LocalLLaMA · reddit.com