跳到正文
Reddit · r/LocalLLaMA· /u/Ammoryyy·· 2 小时前AI 评分17

旧 Xeon X99 主机配 256GB 内存 + RTX 3090 Ti 跑 Strata LLM 推理是否值得?

old Xeon X99 PC with 256GB RAM + RTX 3090 Ti worth it for Strata LLM inference?

来源与原文

Reddit · r/LocalLLaMA

作者:/u/Ammoryyy

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xiqujs/old_xeon_x99_pc_with_256gb_ram_rtx_3090_ti_worth/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一位用户在本地市场看到约 $420 的二手主机:Xeon E5-2640 v3(8C/16T)、X99 主板、16GB DDR4(计划升级到 256GB)、128GB SSD,并附 1080p 144Hz 显示器。他打算装上自己的 RTX 3090 Ti 24GB,用 Strata Engine 的 RAM/VRAM offloading 跑大模型,询问这套老平台的 CPU 和内存带宽是否会拖慢推理、是否值得购买。

来源:Reddit · r/LocalLLaMA · reddit.com