Reddit · r/LocalLLaMA· /u/ironicstatistic·· 16 天前AI 评分17
LocalLLaMA 用户求助：Flash-Next + Strata 在 32GB 内存下的 Q2 mmap 慢速困境
Question about flash next +strata+ 32gb sadness.
来源与原文
Reddit · r/LocalLLaMA
作者：/u/ironicstatistic
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x2lq70/question_about_flash_next_strata_32gb_sadness/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一位配备 5060 Ti 16GB 与 32 GB DDR5 的 LocalLLaMA 用户发帖求助：Strata 的 Q2 版本必须用 mmap，导致专家交换速度极慢，希望找到能高效换入专家的推理引擎或参数方案。他还提到 Flash-Next 的 Q1 版本质量差但恰好装得进内存，想在 Q2 或 Q3 下有效运行，并询问 Ista DasLab 的 Q2 版能否跑 Strata、在世界知识上能否胜过 27B 的较高量化版本。
来源：Reddit · r/LocalLLaMA · reddit.com