Reddit · r/LocalLLaMA· /u/Robert__Sinclair·· 3 小时前AI 评分32
Cyber-Tiel-Coder-35B-A3B-MTP-UD-IQ3_XXS.gguf：LocalLLaMA 网友称赞的低比特量化小模型
Cyber-Tiel-Coder-35B-A3B-MTP-UD-IQ3_XXS.gguf A GREAT MODEL
来源与原文
Reddit · r/LocalLLaMA
作者：/u/Robert__Sinclair
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xhy3jw/cybertielcoder35ba3bmtpudiq3_xxsgguf_a_great_model/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Reddit r/LocalLLaMA 用户测试 Cyber-Tiel-Coder-35B-A3B-MTP-UD-IQ3_XXS.gguf 后称其为目前表现最好的小型量化模型，在 IQ3_XXS 量化下推理能力没有退化。该模型在纯 CPU（azure standard 4 cpu 配置）上达到 7-8 tok/sec，速度虽不及 Ling，但推理质量出色。
来源：Reddit · r/LocalLLaMA · reddit.com