Reddit · r/LocalLLaMA· /u/human_in_the_looop·· 15 天前精选AI 评分59
在 AMD 7900 XTX 上实测 Qwen3.8-Flash-Next 500k 上下文本地部署
I ran Qwen 3.8 Flash-Next on my AMD 7900 XTX at 500k context. All local and what a shift it has been.
来源与原文
Reddit · r/LocalLLaMA
作者:/u/human_in_the_looop
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x3ker0/i_ran_qwen_38_flashnext_on_my_amd_7900_xtx_at/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
/u/human_in_the_looop 在 AMD 7900 XTX 上本地运行 Qwen3.8-Flash-Next,实测上下文上限 506,849 tokens,decode 105–160 tok/s。排查出此前回声问题源自 `preserve_thinking: true` 把先前推理反复喂回 prompt,关闭后消失;质量在 thinking 关闭时 81–84%、开启时 88–94%,深度到 256k 时 decode 下降 18%,已设为日常主力配置。
推荐理由
作者用约1.3万轮对话定位回声触发条件,并给出AMD上500k上下文的实测吞吐与质量数据,方法与配置可迁移。
来源:Reddit · r/LocalLLaMA · reddit.com