跳到正文
Hugging Face · 新模型:abliterated·· 18 小时前AI 评分27

mradermacher 发布 Nemotron-3.5-Bolt-E4B-Abliterated GGUF 量化版本

mradermacher/Nemotron-3.5-Bolt-E4B-Abliterated-i1-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/mradermacher/Nemotron-3.5-Bolt-E4B-Abliterated-i1-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

mradermacher 在 Hugging Face 上为 Nemotron-3.5-Bolt-E4B-Abliterated 提供了带 imatrix 的 GGUF 量化版本,大小从 4.5GB(i1-Q2_K)到 6.3GB(i1-Q6_K)不等。该模型为视觉模型,mmproj 文件放在 static 仓库中。其中 i1-Q4_K_M 被标注为快速推荐选项,i1-Q4_K_S 兼顾尺寸、速度与质量。

来源:Hugging Face · 新模型:abliterated · huggingface.co