mradermacher 发布 Abliterated-Dolphin3.0-R1-Mistral-24B GGUF 静态量化版本
mradermacher 在 Hugging Face 上发布了 Abliterated-Dolphin3.0-R1-Mistral-24B 的 GGUF 静态量化版本,提供从 Q2_K(9.0GB)到 Q8_0(25.2GB)的多种规格,其中 Q4_K_S、Q4_K_M 标注为快速且推荐使用,Q8_0 质量最佳。weighted/imatrix 量化版本可在模型页面另行获取。