跳到正文
热点事件历史事件

RTX 3080 Ti 降 42% 功耗跑 Qwen 3.5 9B 实测不掉速

1 篇报道1 个报道来源12 天前更新

先了解这件事

AI 综述

一位 Reddit 用户在 RTX 3080 Ti 上用 llama.cpp 运行 Qwen 3.5 9B Q4_K_M 模型,将 GPU 功耗限制从最高 450W 以 10% 为步长逐步降到 250W,速度仍保持约 100 tok/s,无明显下降;降到 220W 时降至约 80 tok/s。即该场景下降 42% 功耗不影响推理速度,260W 与 450W 表现相当。

AI 根据报道生成 · 37 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月10日
  1. Reddit · r/LocalLLaMA
    RTX 3080 Ti 上降低 42% 功耗运行 Qwen 3.5 9B 性能无损

    一位用户在 RTX 3080 Ti 上运行 Qwen 3.5 9B Q4_K_M 模型,将 GPU 功耗限制从 450W 逐步降到 250W,速度仍保持约 100 tok/s 无明显下降;降到 220W 时降至约 80 tok/s,而 260W 与 450W 表现相当,即降低 42% 功耗性能无损。VRAM 带宽利用率始终未满载,作者推测瓶颈可能在推理软件或 GPU 架构而非功耗限制。