跳到正文
Reddit · r/LocalLLaMA· /u/No-Refrigerator-1672·· 3 天前精选AI 评分63

Nvidia 新解锁补丁实测:中国版 RTX 3080 20GB prefill 提速最高 28.6%

New Nvidia unlock works on Chinese 3080 20GB too

来源与原文

Reddit · r/LocalLLaMA

作者:/u/No-Refrigerator-1672

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xdn33h/new_nvidia_unlock_works_on_chinese_3080_20gb_too/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Reddit 用户 /u/No-Refrigerator-1672 在 2x RTX 3080 20GB(PCIe 3.0 x16、240W 功耗限制)上实测 Zaggita 发布的 GPU 性能解锁补丁,该补丁修复 Nvidia 对消费卡 AI 相关硬件指令的算力限制。用 vLLM 0.32.0 跑 cyankiwi/Swift-1.5-Qwen3.8-27B-AWQ-INT4(fp8 KV cache、MTP 开启)测试,prefill 吞吐提升 20.8% 到 28.6%(提示越长提升越大),TTFT 下降 17.2% 到 22.3%,decode 步速基本不变;MTP 实际接受率约 2,实际生成速度约 45 tok/s。

推荐理由

作者在双 RTX 3080 20GB 上实测 Zaggita 的解锁补丁,给出了从 8k 到 262k 提示长度的 prefill 提速数据和解码不变的结论。

来源:Reddit · r/LocalLLaMA · reddit.com