跳到正文
热点事件持续更新

发布 Qwen2.5-1.5B 去对齐消融模型

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

AmareshHebbar 在 Hugging Face 发布 Qwen2.5-1.5B-Abliterated-Clean,基于 unsloth/Qwen2.5-1.5B-Instruct,用 Winsorized Gram-Schmidt 正交投影对第 10-24 层权重做修改以移除拒绝行为。据其发布页,硬拒绝率从 94.5% 降至 2.1%,困惑度低于 25,MMLU Abstract Algebra 0-shot 得分 37%、GSM8K 28%。模型以 bfloat16/float16 合并 16 位格式提供。发布方提示,在生产环境部署该模型的用户需自行实现适合其用例的外部护栏。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. Hugging Face · 新模型:abliterated
    Qwen2.5-1.5B-Abliterated-2.0:基于 unsloth/Qwen2.5-1.5B-Instruct 的去拒绝化模型上架 Hugging Face

    AmareshHebbar 在 Hugging Face 发布 Qwen2.5-1.5B-Abliterated-Clean,基于 unsloth/Qwen2.5-1.5B-Instruct,用 Winsorized Gram-Schmidt 正交投影对第 10-24 层权重做定向手术以移除拒绝行为。硬拒绝率从 94.5% 降至 2.1%,困惑度低于 25,MMLU Abstract Algebra 0-shot 得分 37%、GSM8K 28%,以 bfloat16/float16 合并 16 位格式提供。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。