Reddit · r/LocalLLaMA· /u/Ammoryyy·· 5 小时前AI 评分16
二手 64 核 Threadripper PRO 3995WX 工作站是否值得作为多 GPU LLM 服务器
Used 64-core Threadripper PRO 3995WX
来源与原文
Reddit · r/LocalLLaMA
作者:/u/Ammoryyy
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xkdpv3/used_64core_threadripper_pro_3995wx/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一位用户在伊拉克本地二手市场发现一台 64 核 AMD Threadripper PRO 3995WX 工作站,正在评估是否适合改造成本地 LLM 推理服务器。配置包括 224 GB DDR4-3200 内存、128 GB SSD 和 GTX 1050 Ti,卖家尚未给出价格。该用户计划搭配 4–8 张 RTX 3090 运行大型 MoE 模型,使用 llama.cpp、vLLM 或 SGLang,并咨询了 PCIe 插槽、ECC RDIMM 兼容性及是否选 EPYC 更划算等问题。
来源:Reddit · r/LocalLLaMA · reddit.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。