Reddit · r/LocalLLaMA· /u/ag789·· 3 小时前AI 评分29
Qwen 3.8 27B 体验：能力强但本地推理开销巨大
QWen 3.8 27B really feels good, but the processing is enormous
来源与原文
Reddit · r/LocalLLaMA
作者：/u/ag789
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xgw1ix/qwen_38_27b_really_feels_good_but_the_processing/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit 用户用 Qwen 3.8 27B 通过 MCP 服务器和 Docker 沙箱重构 shell 脚本，为 llama-server 添加 --rundefault 选项，模型能主动发现需过滤传给 llama-server 的合成变量，验证编辑逐 hunk 全部正确，但上下文设为 65535 仍很快不够用。在老款 Intel Haswell i7 CPU 上仅约 1 tok/s，满载 AVX2 加速下预填充持续 80°C，整个会话跑了 2-3 小时；Q4 量化估计需 16-24 GB 显存才能上 GPU。
来源：Reddit · r/LocalLLaMA · reddit.com