Reddit · r/LocalLLaMA· /u/rhinodevil·· 3 小时前AI 评分20
Ternary-Bonsai-2-27B TQ1_0 与 Gemma 4 12B it QAT Q4_K_XL 该选哪个？
Ternary-Bonsai-2-27B TQ1_0 or Gemma 4 12B it QAT Q4_K_XL?
来源与原文
Reddit · r/LocalLLaMA
作者：/u/rhinodevil
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xj8kuj/ternarybonsai227b_tq1_0_or_gemma_4_12b_it_qat_q4/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一位使用 Nvidia 4060 Mobile（8 GB VRAM）笔记本的用户在 r/LocalLLaMA 发帖询问：在自定义语音助手上，Ternary-Bonsai-2-27B 的 TQ1_0 量化（经 llama.cpp 移植版测试）与现用的 Unsloth Gemma 4 12B it QAT Q4_K_XL 相比是否值得选择。该用户认为 TQ1_0 版本前景不错，但官方 llama.cpp 尚不支持该量化格式，希望了解其他人的测试结果。
来源：Reddit · r/LocalLLaMA · reddit.com