Reddit · r/LocalLLaMA· /u/triynizzles1·· 2 天前精选AI 评分61
RTX 8000 48GB 两年降价至约 $2100,作者实测对比双 3090 本地部署方案
Rtx 8000 48gb prices have decreased over the last two years while 3090 doubled.
来源与原文
Reddit · r/LocalLLaMA
作者:/u/triynizzles1
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xmgmd8/rtx_8000_48gb_prices_have_decreased_over_the_last/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
作者 2024 年以 $2400 购入 RTX 8000 48GB,现价约 $2100,而 3090 价格翻倍至 $1500-1600。该卡推理带宽 672gb/s 低于 3090 的 936gb/s,但显存翻倍且功耗仅 265w,低于双 3090 的 700w。作者称两年无驱动兼容问题,可在显存内以 256k tokens 运行 llama 3 70b 等本地模型,配合 64gb ddr4 内存可分层运行 gpt oss 120b 等大型 MoE 模型,认为它是家庭实验室当前性价比较好的全能选项。
推荐理由
作者用两年自用数据对比 RTX 8000 48GB 与双 3090 的价格、带宽、功耗和实际运行情况,可作为家庭本地部署选型的参考。
来源:Reddit · r/LocalLLaMA · reddit.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。