跳到正文
我的
Hugging Face · 新模型:abliterated·· 51 分钟前精选AI 评分60

jsantillana 发布 gemma-4-26B-A4B-it-abliterated 无对齐版本

jsantillana/gemma-4-26B-A4B-it-abliterated

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/jsantillana/gemma-4-26B-A4B-it-abliterated

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

jsantillana 发布了 google/gemma-4-26B-A4B-it 的无审查 abliterated 版本,通过对第 8 至 13 层做定向正交子空间投影去除拒答行为与说教式免责声明。作者称第 12 层拒答分离度最高(范数 66.50),并对 self_attn.o_proj、mlp.down_proj 及全部 128 个 MoE 专家的 experts.down_proj 做了张量投影。该模型约 25.8B 总参数、每 token 激活约 3.8B–4.0B,支持 256K 上下文,作者称推理、编码与事实解题能力未退化。

推荐理由

原文给出了正交子空间投影的具体层号与拒绝向量范数,读者可据此判断这次消融动了哪些安全瓶颈层。

来源:Hugging Face · 新模型:abliterated · huggingface.co

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。