Reddit · r/LocalLLaMA· /u/Brief-Tap-6616·· 17 天前精选AI 评分70
LlamAmpere 更新：Qwen3.8 27B 在 12GB Ampere 卡上跑 200K ctx + MTP
Qwen3.8 27b with 200K ctx + MTP on 12GB Ampere Cards
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Brief-Tap-6616
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x1xt1x/qwen38_27b_with_200k_ctx_mtp_on_12gb_ampere_cards/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
/u/Brief-Tap-6616 发布 LlamAmpere 更新，主要面向 12GB Ampere 显卡用户，实测 Qwen3.8 27B 支持 205k-230k ctx（11GB，YaRN 下约 340K），并新增 Staged + Journaled KVaRN 变体，KLD 较论文忠实版和竞争版降低约 40%。
推荐理由
作者给出了具体 KLD 数字、ctx 长度和多张卡的实测吞吐，12GB 显存用户可以据此评估这套方案是否够用。
来源：Reddit · r/LocalLLaMA · reddit.com