跳到正文
更多
Reddit · r/LocalLLaMA· /u/Ammoryyy·· 5 小时前AI 评分16

二手 64 核 Threadripper PRO 3995WX 工作站是否值得作为多 GPU LLM 服务器

Used 64-core Threadripper PRO 3995WX

来源与原文

Reddit · r/LocalLLaMA

作者:/u/Ammoryyy

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xkdpv3/used_64core_threadripper_pro_3995wx/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一位用户在伊拉克本地二手市场发现一台 64 核 AMD Threadripper PRO 3995WX 工作站,正在评估是否适合改造成本地 LLM 推理服务器。配置包括 224 GB DDR4-3200 内存、128 GB SSD 和 GTX 1050 Ti,卖家尚未给出价格。该用户计划搭配 4–8 张 RTX 3090 运行大型 MoE 模型,使用 llama.cpp、vLLM 或 SGLang,并咨询了 PCIe 插槽、ECC RDIMM 兼容性及是否选 EPYC 更划算等问题。

来源:Reddit · r/LocalLLaMA · reddit.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。