跳到正文
Hugging Face · 新模型:abliterated·· 10 天前AI 评分18

mradermacher 发布 Vietnamese-4B-Chat-abliterated 的 i1-GGUF 量化版本

mradermacher/Vietnamese-4B-Chat-abliterated-i1-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/mradermacher/Vietnamese-4B-Chat-abliterated-i1-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

mradermacher 在 Hugging Face 上发布 Vietnamese-4B-Chat-abliterated 的 imatrix 加权 GGUF 量化版本,提供从 i1-IQ1_S(1.5GB)到 i1-Q6_K(3.6GB)的多种量化文件,其中 Q4_K_M 被标注为快速且推荐,Q4_K_S 为大小/速度/质量最优。该模型为视觉模型,mmproj 文件放在静态仓库中,静态量化版本另行提供。

来源:Hugging Face · 新模型:abliterated · huggingface.co