Hugging Face · 新模型:abliterated·· 23 天前AI 评分26
mradermacher 发布 Abliterated-Dolphin3.0-R1-Mistral-24B 的 i1-GGUF 量化版本
mradermacher/Abliterated-Dolphin3.0-R1-Mistral-24B-i1-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/mradermacher/Abliterated-Dolphin3.0-R1-Mistral-24B-i1-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
mradermacher 在 Hugging Face 发布了 Abliterated-Dolphin3.0-R1-Mistral-24B 的 imatrix GGUF 量化版本,提供从 i1-IQ1_S(5.4GB)到 Q6_K(19.4GB)的多种量化档位。其中 Q4_K_S(13.6GB)被称为尺寸、速度与质量的最优平衡,Q4_K_M(14.4GB)为推荐选项,并单独提供 0.1GB 的 imatrix 文件供用户自行创建量化。
来源:Hugging Face · 新模型:abliterated · huggingface.co