跳到正文
Hugging Face · 新模型:abliterated·· 7 天前精选AI 评分52

gemma-3-12b-it abliterated v2 GGUF 版发布,改进拒绝方向消融

Umpire1onight/gemma-3-12b-it-abliterated-v2-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/Umpire1onight/gemma-3-12b-it-abliterated-v2-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

作者发布了 google/gemma-3-12b-it 的无审查 abliterated v2 版本,提供 1B、4B、12B、27B 多种规格的 GGUF 量化。新版本以更高精度针对拒绝行为,通过对比有害与无害样本的残差流计算拒绝方向并对 o_proj 等模块的隐状态做正交化,权重因子服从带峰值层的正态分布,支持分批迭代正交化或累积拒绝方向以节省显存;评测结合词典方法与 NousResearch/Minos-v1,目标是接受率大于90%且输出保持连贯,并建议使用 temperature=1.0、top_k=64、top_p=0.95 的生成参数。

推荐理由

作者给出了消融的具体实现方法和以接受率大于90%为目标的评测方式,可据此了解这一版去对齐权重的做法。

来源:Hugging Face · 新模型:abliterated · huggingface.co