Reddit · r/LocalLLaMA· /u/Ammoryyy·· 22 天前AI 评分13
RTX 4090 + 3090 Ti 双卡装机:把 3090 Ti 独立成 LLM 专用机是否值得?
Any benefit to doing this?
来源与原文
Reddit · r/LocalLLaMA
作者:/u/Ammoryyy
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1wxomzr/any_benefit_to_doing_this/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一位 Reddit r/LocalLLaMA 用户配置为 i7-13700KF、RTX 4090 24GB + RTX 3090 Ti 24GB、128GB DDR4,考虑把 3090 Ti 移入单独的 LLM/AI 主机跑本地大模型,用闲置的 H370 主板和 i5-8400 搭建,只需另购电源。帖子征求建议:这样分离 LLM 负载是否有实际收益,还是双卡留在主机更好。
来源:Reddit · r/LocalLLaMA · reddit.com