跳到正文
Reddit · r/LocalLLaMA· /u/Ammoryyy·· 22 天前AI 评分13

RTX 4090 + 3090 Ti 双卡装机:把 3090 Ti 独立成 LLM 专用机是否值得?

Any benefit to doing this?

来源与原文

Reddit · r/LocalLLaMA

作者:/u/Ammoryyy

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1wxomzr/any_benefit_to_doing_this/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一位 Reddit r/LocalLLaMA 用户配置为 i7-13700KF、RTX 4090 24GB + RTX 3090 Ti 24GB、128GB DDR4,考虑把 3090 Ti 移入单独的 LLM/AI 主机跑本地大模型,用闲置的 H370 主板和 i5-8400 搭建,只需另购电源。帖子征求建议:这样分离 LLM 负载是否有实际收益,还是双卡留在主机更好。

来源:Reddit · r/LocalLLaMA · reddit.com