Reddit · r/LocalLLaMA· /u/Introvertosaurus·· 7 天前AI 评分18
预算升级跑 Gemma 4 31B：双 GPU 走 PCIe x1 还是另寻方案？
Budget upgrade for a 31B model? Dual GPUs over PCIe x1 or another approach?
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Introvertosaurus
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xagsfh/budget_upgrade_for_a_31b_model_dual_gpus_over/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一位用户在 r/LocalLLaMA 求助预算 $600–900 内升级 AI 服务器，目标是让 Gemma 4 31B Q5_K_M（约 23GB）在 16K 上下文下达到至少 15 t/s。现用 RTX 3060 12GB 混合卸载仅 2.3 t/s，计划加装 RTX 5060 Ti 16GB 组成 28GB VRAM 并把 3060 接到 PCIe 3.0 x1 转接卡，也在考虑双 Tesla P100 16GB 等替代方案。
来源：Reddit · r/LocalLLaMA · reddit.com