RTX 3080 Ti 降 42% 功耗跑 Qwen 3.5 9B 实测不掉速
热点事件历史事件
RTX 3080 Ti 降 42% 功耗跑 Qwen 3.5 9B 实测不掉速
1 篇报道1 个报道来源12 天前更新
先了解这件事
AI 综述
一位 Reddit 用户在 RTX 3080 Ti 上用 llama.cpp 运行 Qwen 3.5 9B Q4_K_M 模型,将 GPU 功耗限制从最高 450W 以 10% 为步长逐步降到 250W,速度仍保持约 100 tok/s,无明显下降;降到 220W 时降至约 80 tok/s。即该场景下降 42% 功耗不影响推理速度,260W 与 450W 表现相当。
AI 根据报道生成 · 37 分钟前更新
最新进展11月10日 23:00
RTX 3080 Ti 上降低 42% 功耗运行 Qwen 3.5 9B 性能无损报道时间线
沿着报道,了解事件的不同侧面。
11月10日
- Reddit · r/LocalLLaMARTX 3080 Ti 上降低 42% 功耗运行 Qwen 3.5 9B 性能无损
一位用户在 RTX 3080 Ti 上运行 Qwen 3.5 9B Q4_K_M 模型,将 GPU 功耗限制从 450W 逐步降到 250W,速度仍保持约 100 tok/s 无明显下降;降到 220W 时降至约 80 tok/s,而 260W 与 450W 表现相当,即降低 42% 功耗性能无损。VRAM 带宽利用率始终未满载,作者推测瓶颈可能在推理软件或 GPU 架构而非功耗限制。