用户实测单卡 RTX 5080 跑 Qwen3.8 Flash IQ3_S：生成峰值最高 275 tok/s
先了解这件事
Reddit 用户 /u/yehyakar 实测了 Qwen3.8 Flash 的 IQ3_S 量化：初测在 RTX 5080 16GB 加 62GB DDR5-6800 上，用 Basalt（Strata fork）以 262K 上下文、int8 KV 缓存运行，prompt 处理峰值约 5,662 tok/s，生成平均约 155 tok/s、峰值 186.6 tok/s。 后续更新中，Basalt 的新 PR 在单张 RTX 5080 加 51GB RAM 上创下 prompt processing 5500 tok/s、生成峰值 275 tok/s 的成绩；opencode 编码实测中代码与工具调用峰值达 275 tok/s。作者称部分以其名义提交的优化 PR 仍在等待合并，但上游已带来明显性能与内存优化，并称 IQ3_S 实际可用。
AI 根据报道生成 · 2 小时前更新
事件进展
2 个进展
- 10月29日 11:57 · 1 篇报道Basalt Strata fork 推理速度实测更新Reddit · r/LocalLLaMA：Basalt（Strata fork）新 PR 刷新纪录：单张 RTX 5080 + 51 GB RAM 跑 Qwen3.8 Flash，prompt processing 达 5500 tok/s、生成峰值 275 tok/s
- 10月25日 11:59 · 1 篇报道用户实测 Qwen3.8-Flash-Next IQ3_S 量化性能Reddit · r/LocalLLaMA：RTX 5080 16GB 实测 Qwen3.8 Flash Next IQ3_S：生成最高约 250 tok/s、预处理约 5,600 tok/s
报道时间线
沿着报道，了解事件的不同侧面。
- Reddit · r/LocalLLaMABasalt（Strata fork）新 PR 刷新纪录：单张 RTX 5080 + 51 GB RAM 跑 Qwen3.8 Flash，prompt processing 达 5500 tok/s、生成峰值 275 tok/s
Basalt（Strata fork）的新 PR 在单张 RTX 5080（16GB）加 51 GB RAM 上跑 Qwen3.8 Flash 的 IQ3_S 量化，创下 prompt processing 5500 tok/s、生成峰值 275 tok/s 的纪录，推理轨迹最高 190 tok/s。测试硬件为 64 GB DDR5 6400 与 Core Ultra 9 285K，opencode 编码实测中代码与工具调用峰值达 275 tok/s。部分优化 PR 仍在等待合并，但上游已带来明显性能与内存优化，作者称 IQ3_S 实际可用。
- Reddit · r/LocalLLaMARTX 5080 16GB 实测 Qwen3.8 Flash Next IQ3_S：生成最高约 250 tok/s、预处理约 5,600 tok/s
/u/yehyakar 在 RTX 5080 16GB、Core Ultra 9 285K、62GB DDR5-6800 环境下用 Basalt 测试 Qwen3.8-Flash-Next IQ3_S，262K 上下文、int8 KV。上下文扫描（15K-207K）平均 prompt 处理 5,475 tok/s、峰值 5,662 tok/s，生成平均 154.9 tok/s、峰值 186.6 tok/s；Agent 编码会话（opencode 103 次请求、最高 130K ctx）生成平均 153.0 tok/s、峰值 262 tok/s，99.5% 的 prompt token 来自缓存，首 token 中位时间 0.2 秒，显存占用 15.7GB。
本事件热度走势
- 可比范围当前
- 10
- 可比范围峰值
- 1010月29日 12:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。