网友购入双V100工作站部署本地模型

Reddit r/LocalLLaMA 用户 /u/a4mula 因显卡涨价，以约 1900 美元（含税和运费）购入一台惠普 Z840 工作站，配备 128GB DDR4 内存和双水冷 32GB 显存版 V100，用于替代原先 3060ti 加 32GB 内存的本地模型方案。 作者称该机在软件支持上已接近极限，但 64/128 的内存显存配置可在空闲时静置低功耗运行，整体满意。他此前已在旧设备上跑通 Qwen 3.8 FN，但 prefill 一直难以解决，表示新机到手后会分享跑分数据。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。