Reddit · r/LocalLLaMA· /u/citrusalex·· 11 小时前AI 评分27
Unsloth v3.1 QFN IQ4_XS 量化频繁导致工具调用失败
Unsloth v3.1 QFN IQ4_XS fails tool calls very frequently
来源与原文
Reddit · r/LocalLLaMA
作者：/u/citrusalex
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xprc6o/unsloth_v31_qfn_iq4_xs_fails_tool_calls_very/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
用户反馈升级 Qwen Flash Next 至 v3.1、Strata 至 0.2.11 后，Unsloth 的 IQ4_XS 量化在 Hermes 和 Oh my Pi 测试框架中工具调用失败频率高于上一版本，且失败后模型直接停止生成，需手动发送 continue 才能完成。该用户样本量较小，尚未排查是否实为 Strata 问题。
来源：Reddit · r/LocalLLaMA · reddit.com
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。