跳到正文
Reddit · r/LocalLLaMA· /u/Farmadupe·· 14 天前AI 评分42

PSA:3090 FE 跑大语言模型会导致 VRAM 过热

PSA for 3090 FE owners: Running LLMs overheats your VRAM

来源与原文

Reddit · r/LocalLLaMA

作者:/u/Farmadupe

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1x4z19k/psa_for_3090_fe_owners_running_llms_overheats/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

3090 Founders Edition 的 VRAM 散热较差,实测在 Nvidia 默认风扇/功耗曲线下,token 生成开始数秒内 VRAM 温度即达 112C,超过 96C 的持续运行额定值。测试用 qwen3.8-27b 5.1bpw 并开启 MTP(三 token/前向、70% 接受率),结论是将功耗压到 270W 并手动设 100% 风扇可防过热,代价是吞吐量损失 30%;undervolting 无效,因 Nvidia 只在 300W 以上才应用 clock offset。

来源:Reddit · r/LocalLLaMA · reddit.com