跳到正文
Hugging Face · 新模型:abliterated·· 16 天前精选AI 评分57

anlord 发布 google/gemma-4-E2B-it 的 abliterated GGUF 量化版

anlord/gemma-4-E2B-it-abliterated-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/anlord/gemma-4-E2B-it-abliterated-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

anlord 在 Hugging Face 发布 gemma-4-E2B-it-abliterated 的 GGUF 量化合集,原模型消融拒绝行为后每 100 条有害提示的拒绝数从 99 降到 4。提供 bf16 到 Q4_0 共 12 个量化文件,全部由同一 F16 源用 llama-quantize 转换,8 GB 显存的 GPU 可完整容纳 Q4_K_M 至 Q8_0,仅含文本塔,多模态推理需用父仓库 safetensors,许可沿用 Gemma 条款。

推荐理由

原文给出拒绝率前后对比和各量化档位的实测说明,读者可按显存预算直接挑选合适档位。

来源:Hugging Face · 新模型:abliterated · huggingface.co