跳到正文
我的
Reddit · r/LocalLLaMA· /u/Accurate-Door3692·· 41 分钟前AI 评分49

Qwen3.8-Flash-Next Gyro S 在 Valve Steam Machine 上实测:约 18 t/s 解码、235 t/s 预填充,原生 SteamOS

Qwen3.8-Flash-Next Gyro S on a Valve Steam Machine (8 GB AMD GPU, 32 GB RAM): about 18 t/s decode, about 235 t/s prefill, stock SteamOS

来源与原文

Reddit · r/LocalLLaMA

作者:/u/Accurate-Door3692

发布时间:(北京时间)

阅读原始来源 · reddit.com ↗
完整链接与内容说明

https://www.reddit.com/r/LocalLLaMA/comments/1xq8s2n/qwen38flashnext_gyro_s_on_a_valve_steam_machine_8/

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Qwen3.8-Flash-Next Gyro S 在 Valve Steam Machine(8 GB AMD Navi 33、32 GB RAM、原生 SteamOS 3.9.5)上以 128K 上下文运行,解码约 17.3-19.8 t/s、预填充约 235-242 t/s。唯一有效的调优是 `--set resident-budget-gib=64`,让引擎把专家权重留在自身 RAM 层,解码提升约 20%。开启 MTP 需手动加载草稿层,占用 820 MiB VRAM 后解码无增益、预填充反而低约 10%,在 8 GB VRAM 上不划算。

来源:Reddit · r/LocalLLaMA · reddit.com

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。