Reddit · r/LocalLLaMA· /u/Accurate-Door3692·· 41 分钟前AI 评分49
Qwen3.8-Flash-Next Gyro S 在 Valve Steam Machine 上实测:约 18 t/s 解码、235 t/s 预填充,原生 SteamOS
Qwen3.8-Flash-Next Gyro S on a Valve Steam Machine (8 GB AMD GPU, 32 GB RAM): about 18 t/s decode, about 235 t/s prefill, stock SteamOS
来源与原文
Reddit · r/LocalLLaMA
作者:/u/Accurate-Door3692
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xq8s2n/qwen38flashnext_gyro_s_on_a_valve_steam_machine_8/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Qwen3.8-Flash-Next Gyro S 在 Valve Steam Machine(8 GB AMD Navi 33、32 GB RAM、原生 SteamOS 3.9.5)上以 128K 上下文运行,解码约 17.3-19.8 t/s、预填充约 235-242 t/s。唯一有效的调优是 `--set resident-budget-gib=64`,让引擎把专家权重留在自身 RAM 层,解码提升约 20%。开启 MTP 需手动加载草稿层,占用 820 MiB VRAM 后解码无增益、预填充反而低约 10%,在 8 GB VRAM 上不划算。
来源:Reddit · r/LocalLLaMA · reddit.com
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。