AmareshHebbar 发布 Qwen2.5-1.5B 消融版模型
热点事件持续更新
AmareshHebbar 发布 Qwen2.5-1.5B 消融版模型
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
AmareshHebbar 在 Hugging Face 发布基于 unsloth/Qwen2.5-1.5B-Instruct 的消融版模型 Qwen2.5-1.5B-Abliterated-2.0.1,采用 Winsorized Gram-Schmidt 正交投影在权重空间中和拒绝子空间,而非全参数微调。据其发布信息,模型硬拒绝率从基线 94.5% 降至 2.1%,直接合规率升至 97.9%,能力保留 99.2%;MMLU Abstract Algebra 0-shot 37.00%,GSM8K 28.00%,困惑度门槛 <25 通过。 模型以 bfloat16/float16 合并 16-bit 权重开放,作者提示生产部署需自行加外部护栏。
AI 根据报道生成 · 53 分钟前更新
最新进展10月29日 13:42
Qwen2.5-1.5B-Abliterated-2.0.1 发布,硬拒绝率从94.5%降至2.1%报道时间线
沿着报道,了解事件的不同侧面。
10月29日
- Hugging Face · 新模型:abliterated精选Qwen2.5-1.5B-Abliterated-2.0.1 发布,硬拒绝率从94.5%降至2.1%
AmareshHebbar 发布基于 unsloth/Qwen2.5-1.5B-Instruct 的 abliterated 版本,采用 Winsorized Gram-Schmidt 正交投影在权重空间中和拒绝子空间,而非全参数微调。硬拒绝率从基线 94.5% 降至 2.1%,直接合规率升至 97.9%,能力保留 99.2%;MMLU Abstract Algebra 0-shot 37.00%,GSM8K 28.00%,困惑度门槛 <25 通过。模型以 bfloat16/float16 合并 16-bit 权重开放,作者提示生产部署需自行加外部护栏。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。