跳到正文
Hugging Face · 新模型:abliterated·· 2 天前精选AI 评分72

Nemotron-3.5-Bolt-E4B-Abliterated 发布,权重消融后拒绝大幅下降

monamoe/Nemotron-3.5-Bolt-E4B-Abliterated

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/monamoe/Nemotron-3.5-Bolt-E4B-Abliterated

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

monamoe 发布 NVIDIA-Nemotron-3.5-Bolt-E4B-BF16 的 abliterated 版本,用 Arditi et al. 2024 的方向消融加 Heretic 式逐层强度搜索,从权重中投影掉拒绝方向,不做任何微调。同一评测流程下,JailbreakBench 有害行为从原版几乎全拒变为 55 答 / 10 说教 / 35 拒,良性回答 99,KL 仅 0.059,MMLU 70.2、GSM8K 90.7 与原版在噪声范围内。方法细节(方向取自第 ~18.4 层、Optuna 200 次试验搜索逐层强度曲线)与失败尝试均已公开,并注明这是非官方 NVIDIA 版本、仍会拒绝部分请求。

推荐理由

作者给出了消融方法、逐层强度搜索和与原版、LoRA 方案的拒绝率对照数据,还记录了失败路线,方法可复现。

来源:Hugging Face · 新模型:abliterated · huggingface.co