Reddit · r/LocalLLaMA· /u/rm-rf-rm·· 19 天前AI 评分26
llama.cpp 0.6.0 跑 Cloudflare Clef Q4_K_M 量化效果不佳，noul 仅 0.57
Cloudflare Clef Experience
来源与原文
Reddit · r/LocalLLaMA
作者：/u/rm-rf-rm
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1x0jhna/cloudflare_clef_experience/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一位 r/LocalLLaMA 用户用 llama.cpp 0.6.0 和 bartowski 的 Q4_K_M 量化版 Cloudflare Clef 模型测试客服工单分类示例，refund 的 noul 值仅 0.57，team 分类 confidence 只有 0.51。换用 Jev 测试时 noul 达 0.99，作者因此质疑该量化版本效果，并询问其他用户的体验。
来源：Reddit · r/LocalLLaMA · reddit.com