跳到正文
10月12日周一
  1. Reddit · r/LocalLLaMA32

    10-16GB VRAM 可运行模型全排名:Gemma 4 26B-A4B 居首

    Reddit r/LocalLLaMA 用户实测并排出了能在 10-16GB VRAM、26-32GB RAM 下运行的模型榜单,要求 64k 上下文、每秒至少 10 token,冠军为 Gemma 4 26B-A4B,其后是 Qwen 3.6 35B-A3B (Abliterated) 和 Gemma 4 Instruct 19B-A1B Heretic。测试覆盖速度、连贯性、多语言容错、slop 模式频率和审查程度,并排除了所有 CoT 模型。作者提示 Kobold 无法加载 Qwen 35B 和 GLM 31B,需用 LLAMA 运行。