跳到正文
Hugging Face · 新模型:abliterated·· 23 天前AI 评分26

mradermacher 发布 Abliterated-Dolphin3.0-R1-Mistral-24B 的 i1-GGUF 量化版本

mradermacher/Abliterated-Dolphin3.0-R1-Mistral-24B-i1-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/mradermacher/Abliterated-Dolphin3.0-R1-Mistral-24B-i1-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

mradermacher 在 Hugging Face 发布了 Abliterated-Dolphin3.0-R1-Mistral-24B 的 imatrix GGUF 量化版本,提供从 i1-IQ1_S(5.4GB)到 Q6_K(19.4GB)的多种量化档位。其中 Q4_K_S(13.6GB)被称为尺寸、速度与质量的最优平衡,Q4_K_M(14.4GB)为推荐选项,并单独提供 0.1GB 的 imatrix 文件供用户自行创建量化。

来源:Hugging Face · 新模型:abliterated · huggingface.co