Reddit · r/LocalLLaMA· /u/mailto_devnull·· 3 天前AI 评分23
Swift-1.5 QFN IQ2_XXS(64k 上下文)对比 Swift-1.5 27B Q4_K_L(llama.cpp,128k 上下文)
Swift-1.5 QFN iq2_xxs (strata, 64k ctx) vs Swift-1.5 27B q4_k_l (llama.cpp, 128k ctx)
来源与原文
Reddit · r/LocalLLaMA
作者:/u/mailto_devnull
发布时间:(北京时间)
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xdfy9c/swift15_qfn_iq2_xxs_strata_64k_ctx_vs_swift15_27b/
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit r/LocalLLaMA 用户对比 ukisai 的 Swift-1.5-Qwen3.8-Flash-Next(IQ2_XXS、64k 上下文、Strata)与 Swift-1.5-Qwen3.8-27B(Q4_K_L、128k 上下文、llama.cpp)。Flash-Next 在 medium 推理档位下反复空转思考、刷工具调用而不写代码,关掉推理也一样;27B 几分钟后就开始写修复。作者怀疑与 64k 上下文压缩、低量化或 Qwen Flash Next 本身有关。
来源:Reddit · r/LocalLLaMA · reddit.com