Reddit · r/LocalLLaMA· /u/stereohype·· 19 天前精选AI 评分59
/u/stereohype 在 pi coding agent 中启用 Strix Halo NPU，125B MoE 本地跑通并对比云端模型
The NPU in your Strix Halo is sitting idle. My pi coding agent runs a 125B MoE and proves the harness matters
来源与原文
Reddit · r/LocalLLaMA
作者：/u/stereohype
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x0thce/the_npu_in_your_strix_halo_is_sitting_idle_my_pi/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
作者 /u/stereohype 在 pi coding agent 中接入 Halogen 0.17.1 提供的 NPU 端点，让 Strix Halo 上的 Qwen3.8 Flash-Next（125B MoE）承担搜索、去重扫描、判断分支和 Prompt injection 初筛。同一 bug 修复任务 13.6 分钟 vs 不用 NPU 的 18.7 分钟，本地解码 64 tok/s、首 token 约 0.03s，可替代约 95% 的云端调用，最难的少数任务仍交给 GLM 5.3 或 Opus。
推荐理由
作者在同一 pi harness 下实测 NPU 加速搜索路由等环节，用同一任务横向对比本地 125B 与多档云端模型的表现。
来源：Reddit · r/LocalLLaMA · reddit.com