租用 EPYC 服务器实测：大内存跑本地模型并发近线性扩展
热点事件持续更新
租用 EPYC 服务器实测：大内存跑本地模型并发近线性扩展
1 篇报道1 个报道来源18 小时前更新
先了解这件事
AI 综述
一位 Reddit 用户（/u/sleight42）称在 vast.ai 花约 40 美元租用 2x AMD EPYC 7642 + ROME 主板（配 2x 3090）做基准测试，Qwen 3.8 Flash Next Unsloth Q8 在 124k 上下文下并发性能近线性扩展：单并发 94 tok/s，8 并发 456 tok/s。其称未测试超过 8 并发的情况。该用户据此认为大内存服务器方案比堆 VRAM 更划算。
AI 根据报道生成 · 11 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
11月1日
- Reddit · r/LocalLLaMA租用服务器实测：AMD EPYC + ROME 主板确实值，Qwen 3.8 Flash Next Unsloth Q8 达 94 tok/s（c=1）
一位用户在 vast.ai 花约 $40 租用 2x AMD EPYC 7642 + ROME 主板（配 2x 3090）做基准测试，发现 Qwen 3.8 Flash Next Unsloth Q8 在 124k 上下文下并发性能近线性扩展：c=1 达 94 tok/s，c=8 达 456 tok/s。结论是大内存服务器方案比堆 VRAM 更划算。
本事件热度走势
- 可比范围当前
- 6
- 可比范围峰值
- 811月1日 21:00
- 近 24 小时变化
- –
02.557.510
22:0011月2日02:0004:0006:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。