发布 Qwen2.5-1.5B 去对齐消融模型
热点事件持续更新
发布 Qwen2.5-1.5B 去对齐消融模型
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
AmareshHebbar 在 Hugging Face 发布 Qwen2.5-1.5B-Abliterated-Clean,基于 unsloth/Qwen2.5-1.5B-Instruct,用 Winsorized Gram-Schmidt 正交投影对第 10-24 层权重做修改以移除拒绝行为。据其发布页,硬拒绝率从 94.5% 降至 2.1%,困惑度低于 25,MMLU Abstract Algebra 0-shot 得分 37%、GSM8K 28%。模型以 bfloat16/float16 合并 16 位格式提供。发布方提示,在生产环境部署该模型的用户需自行实现适合其用例的外部护栏。
AI 根据报道生成 · 1 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- Hugging Face · 新模型:abliteratedQwen2.5-1.5B-Abliterated-2.0:基于 unsloth/Qwen2.5-1.5B-Instruct 的去拒绝化模型上架 Hugging Face
AmareshHebbar 在 Hugging Face 发布 Qwen2.5-1.5B-Abliterated-Clean,基于 unsloth/Qwen2.5-1.5B-Instruct,用 Winsorized Gram-Schmidt 正交投影对第 10-24 层权重做定向手术以移除拒绝行为。硬拒绝率从 94.5% 降至 2.1%,困惑度低于 25,MMLU Abstract Algebra 0-shot 得分 37%、GSM8K 28%,以 bfloat16/float16 合并 16 位格式提供。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。