用户在 8GB 显存笔记本上用 Strata 实测跑通 Qwen 3.8 Flash Next
先了解这件事
Reddit 用户 /u/BleynSpecnaz 称，用 Strata 在 8GB 显存（RTX 5060 Laptop）加 32GB 内存的笔记本上跑通了 Qwen 3.8 Flash Next Q2 量化，实测 PP 最高 930–1,040 t/s、TG 30–45 t/s（131K 上下文），快于其测过的 Qwen 3.6 35B A3B（PP 630–680 t/s、TG 27–35 t/s）及多款模型，并称该模型在基准和实际测试中表现更好。测试均在 Linux 下进行；作者提醒若用 Windows 需给模型分配更少内存。作者还给出 --mmap-experts、--kv-resident 20480、--vram-reserve-mib 等关键参数的调优方法，并提示 131K 及以上上下文时不能安全使用 --parallel，因其大量占用显存和内存，此时建议用 --conversation-cache 替代以避免 OOM。配置仅作起点，需按自身硬件与负载调整。
AI 根据报道生成 · 17 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Reddit · r/LocalLLaMA8 GB 显存 + 32 GB 内存即可运行 Qwen 3.8 Flash Next，PP 最高达 900 t/s、TG 达 30 t/s
一位 Reddit 用户用 Strata 在 8 GB 显存（RTX 5060 Laptop）加 32 GB 内存的笔记本上运行 Qwen 3.8 Flash Next Q2，实测 PP 最高 930-1,040 t/s、TG 30-45 t/s（131K 上下文），快于其 Qwen 3.6 35B A3B（PP 630-680 t/s、TG 27-35 t/s）。文中给出 --mmap-experts、--kv-resident 20480、--vram-reserve-mib 等关键参数调优方法，并建议 131K 以上上下文时用 --conversation-cache 替代 --parallel 以避免 OOM。
本事件热度走势
- 可比范围当前
- 5
- 可比范围峰值
- 1010月26日 19:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。