gemma-4-26B去对齐版及NVFP4 GGUF量化权重发布
先了解这件事
oxpuppy635 在 Hugging Face 发布 google/gemma-4-26B-A4B-it 的去对齐(uncensored)版本,并通过 Expert-Granular Abliteration 等方法将拒绝率大幅降低,随后又发布了该去对齐模型的 NVFP4 GGUF 量化权重,可用支持 NVFP4 的新版 llama.cpp 运行。
AI 根据报道生成 · 15 小时前更新
事件进展
2 个进展
- 11月6日 01:31 · 1 篇报道发布gemma-4-26B去对齐NVFP4 GGUF量化版Hugging Face · 新模型:uncensored:gemma-4-26B-A4B-it-uncensored NVFP4 GGUF 量化权重发布
- 11月6日 01:30 · 1 篇报道发布 gemma-4-26B 消融版量化模型Hugging Face · 新模型:uncensored:oxpuppy635 发布 gemma-4-26B-A4B-it 无对齐版,686 条提示词拒绝率降至 0.7%
报道时间线
沿着报道,了解事件的不同侧面。
- Hugging Face · 新模型:uncensoredgemma-4-26B-A4B-it-uncensored NVFP4 GGUF 量化权重发布
Hugging Face 用户发布 gemma-4-26B-A4B-it-uncensored 的 NVFP4 GGUF 量化权重,使用 llama.cpp 原生 GGML_TYPE_NVFP4 布局从 TrevorJS/gemma-4-26B-A4B-it-uncensored 转换而来。模型文件为 gemma-4-26B-A4B-it-uncensored-NVFP4.gguf,可通过支持 NVFP4 的较新 llama.cpp 版本用 llama-cli 或 llama-server 运行。
- Hugging Face · 新模型:uncensored精选oxpuppy635 发布 gemma-4-26B-A4B-it 无对齐版,686 条提示词拒绝率降至 0.7%
oxpuppy635 在 Hugging Face 发布 google/gemma-4-26B-A4B-it 的 uncensored 版本,移除拒绝行为后 mlabonne 100 条提示词的拒绝数从 98 降到 1。方法是在密集通路(o_proj 与共享 mlp.down_proj)上做保持范数的双向投影消融,并对每层全部 128 个 MoE 专家 down_proj 切片逐个应用 Expert-Granular Abliteration;仅密集消融时拒绝率仍为 29/100,加入 EGA 后降至 3/100。在 4 个独立数据集共 686 条提示词上验证拒绝率为 5/686(0.7%),KL 散度 0.09,无害回答长度比约 1.01,质量无明显退化,完整代码与复现脚本已开源。
本事件热度走势
- 可比范围当前
- 7
- 可比范围峰值
- 1011月6日 02:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。