Hugging Face · 新模型:abliterated·· 51 分钟前精选AI 评分60
jsantillana 发布 gemma-4-26B-A4B-it-abliterated 无对齐版本
jsantillana/gemma-4-26B-A4B-it-abliterated
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/jsantillana/gemma-4-26B-A4B-it-abliterated
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
jsantillana 发布了 google/gemma-4-26B-A4B-it 的无审查 abliterated 版本,通过对第 8 至 13 层做定向正交子空间投影去除拒答行为与说教式免责声明。作者称第 12 层拒答分离度最高(范数 66.50),并对 self_attn.o_proj、mlp.down_proj 及全部 128 个 MoE 专家的 experts.down_proj 做了张量投影。该模型约 25.8B 总参数、每 token 激活约 3.8B–4.0B,支持 256K 上下文,作者称推理、编码与事实解题能力未退化。
推荐理由
原文给出了正交子空间投影的具体层号与拒绝向量范数,读者可据此判断这次消融动了哪些安全瓶颈层。
来源:Hugging Face · 新模型:abliterated · huggingface.co
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。