LocalLLaMA 用户购入双 V100 工作站运行本地大模型

一位 Reddit r/LocalLLaMA 用户原用 3060ti 加 32GB 内存跑本地模型，受显卡涨价影响，最终以约 1900 美元购入 z840 工作站，配备 128GB DDR4 和双水冷 32GB V100。作者此前已在老游戏机上跑通 Qwen 3.8 FN，但 prefill 一直难以解决，新机到手后再分享跑分。