OSO-AI 发布 Qwen2.5-1.5B 消融版,有害拒绝率降至 17.5%
热点事件持续更新
OSO-AI 发布 Qwen2.5-1.5B 消融版,有害拒绝率降至 17.5%
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
OSO-AI 发布 Qwen2.5-1.5B-Instruct 的消融版 abliterated-s2,按 Arditi et al. 2024 的单方向方法,以 2.0 强度对 28 个 block 的 o_proj 与 down_proj 做权重正交化。其 n=40 评测显示,有害拒绝率从 97.5% 降到 17.5%,良性误拒从 10.0% 降到 0.0%,wikitext 困惑度由 9.44 升至 12.87。 作者称 1.0 强度的单次投影仅能把拒绝率降到 67.5%,2 倍过正交化效果更好;该模型已在 llama.cpp 的 Q4_K_M 量化下验证,消融效果可在 4-bit 量化后保留。作者将其定位为研究产物而非产品。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
10月29日
- Hugging Face · 新模型:abliterated精选OSO-AI 发布 Qwen2.5-1.5B-Instruct 消融版 abliterated-s2,拒绝率从 97.5% 降到 17.5%
OSO-AI 发布 Qwen2.5-1.5B-Instruct 的 abliterated-s2 消融版,按 Arditi et al. 2024 单方向方法以 2.0 强度对 28 个 block 的 o_proj 与 down_proj 做权重正交化。n=40 评测中有害拒绝率从 97.5% 降到 17.5%,良性误拒从 10.0% 降到 0.0%,wikitext 困惑度 9.44 变为 12.87;发现 1.0 强度单次投影仅降到 67.5%,2 倍过正交化效果更好,且已在 llama.cpp 的 Q4_K_M 量化下验证。仓库 https://github.com/OSOSerious/oso-obliterated-models- ,作者定位其为研究产物而非工具。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。