Reddit · r/LocalLLaMA· /u/Farmadupe·· 14 天前AI 评分42
PSA:3090 FE 跑大语言模型会导致 VRAM 过热
PSA for 3090 FE owners: Running LLMs overheats your VRAM
来源与原文
Reddit · r/LocalLLaMA
作者:/u/Farmadupe
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x4z19k/psa_for_3090_fe_owners_running_llms_overheats/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
3090 Founders Edition 的 VRAM 散热较差,实测在 Nvidia 默认风扇/功耗曲线下,token 生成开始数秒内 VRAM 温度即达 112C,超过 96C 的持续运行额定值。测试用 qwen3.8-27b 5.1bpw 并开启 MTP(三 token/前向、70% 接受率),结论是将功耗压到 270W 并手动设 100% 风扇可防过热,代价是吞吐量损失 30%;undervolting 无效,因 Nvidia 只在 300W 以上才应用 clock offset。
来源:Reddit · r/LocalLLaMA · reddit.com