跳到正文
Hugging Face · 新模型:abliterated·· 20 天前精选AI 评分54

Gemma 4 E2B it 消融版 V2 GGUF 发布,思考开启时拒绝大幅减少

onemunanoyo/gemma4-E2B-it-Abliterated-V2-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/onemunanoyo/gemma4-E2B-it-Abliterated-V2-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

onemunanoyo 发布 gemma4-E2B-it-Abliterated-V2-GGUF,是此前 gemma4-E2B-Abliterated-GGUF 的改进版,基于 Apache License 2.0 的 Gemma 4 E2B。用 84 条日语对抗提示和 LiquidAI/d1-3B 作裁判评测,思考开启时拒绝从原版的 55 降到 3,关闭时为 0;提供 BF16、Q8_0、Q6_K、Q4_K_M 四种格式,分别建议 12 GB、8 GB、6 GB、4 GB 以上显存,可用 llama-server 或 llama-cli 运行,API 需设 chat_template_kwargs.enable_thinking 为 false 以关闭思考。

推荐理由

作者给出了84条日语对抗提示下与原版和base模型的拒绝率对照数据,包括思考开与关两种条件,可自行评估效果。

来源:Hugging Face · 新模型:abliterated · huggingface.co