Qwen3.6-35B-A3B 4-bit HumanEval 实测 89.6%,MoE expansion 路由补丁 A/B 提升至 90.9%
MoE expansion , First HumanEval number on coding for Qwen3.6-35B-A3B — 90.9% at 4-bit on a RTX 2080 Ti, and an A/B of my "MoE expansion" routing patch vs stock 89.6%
来源与原文
Reddit · r/LocalLLaMA
作者:/u/Specific-Tax-6700
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1wzp3g7/moe_expansion_first_humaneval_number_on_coding/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
作者在单张 RTX 2080 Ti 22GB 上用 Unsloth UD-IQ4_XS 4-bit 量化实测 Qwen3.6-35B-A3B,HumanEval 全部 164 题 pass@1 达 89.63%(147/164)。随后对自制的 MoE expansion 路由补丁做受控 A/B:在最后 15 层(25–39)每 token 激活 20 个专家而非原生 top-8,无需重训或改文件,pass@1 升至 90.85%(149/164),解码速度从 69 tok/s 降至 56 tok/s(约 -19%)。作者提示 +2 题在 164 题的统计噪声范围内,且用的是原始 HumanEval 而非 EvalPlus,不能与 EvalPlus 榜单直接对比。
作者给出了同机同量化下的受控 A/B 数据和解码速度代价,读者可以据此自行判断该路由补丁是否值得用。
来源:Reddit · r/LocalLLaMA · reddit.com