跳到正文
热点事件持续更新

用户询问 Ternary-Bonsai-2-27B TQ1_0 与 Gemma 4 12B QAT 该选哪个

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

一位使用 Nvidia 4060 Mobile(8 GB VRAM)笔记本的用户在 Reddit r/LocalLLaMA 发帖询问:在自定义语音助手上,Ternary-Bonsai-2-27B 的 TQ1_0 量化(经 llama.cpp 移植版测试)是否值得替代其现用的 Unsloth Gemma 4 12B it QAT Q4_K_XL。 发帖者称 TQ1_0 版本前景不错,但官方 llama.cpp 尚不支持该量化格式,希望了解其他人的测试结果。目前尚无结论。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月30日
  1. Reddit · r/LocalLLaMA
    Ternary-Bonsai-2-27B TQ1_0 与 Gemma 4 12B it QAT Q4_K_XL 该选哪个?

    一位使用 Nvidia 4060 Mobile(8 GB VRAM)笔记本的用户在 r/LocalLLaMA 发帖询问:在自定义语音助手上,Ternary-Bonsai-2-27B 的 TQ1_0 量化(经 llama.cpp 移植版测试)与现用的 Unsloth Gemma 4 12B it QAT Q4_K_XL 相比是否值得选择。该用户认为 TQ1_0 版本前景不错,但官方 llama.cpp 尚不支持该量化格式,希望了解其他人的测试结果。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。