Reddit · r/LocalLLaMA· /u/technofox01·· 21 小时前AI 评分15
Qwen3.6-35b-a3b 在 5060ti 上通过 Ollama 跑 Hermes 的方案讨论
Qwen3.6-35b-a3b on 5060ti using Ollama for Hermes
来源与原文
Reddit · r/LocalLLaMA
作者：/u/technofox01
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xnjnmi/qwen3635ba3b_on_5060ti_using_ollama_for_hermes/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一位用户在 16GB 显存的 5060ti + 64GB 内存配置上，用 Ollama 运行 Qwen3.6-35b-a3b，当前在 q4_k_m 量化下通过 MoE offloading 只达到 64k 上下文，希望提升到 120k 或更高。他需要 Ollama 与 ComfyUI 按需交换加载模型，并兼顾游戏时释放显存，向 r/LocalLLaMA 社区征求建议。
来源：Reddit · r/LocalLLaMA · reddit.com
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。