跳到正文
热点事件持续更新

AmareshHebbar 发布 Qwen2.5-1.5B 消融版模型

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

AmareshHebbar 在 Hugging Face 发布基于 unsloth/Qwen2.5-1.5B-Instruct 的消融版模型 Qwen2.5-1.5B-Abliterated-2.0.1,采用 Winsorized Gram-Schmidt 正交投影在权重空间中和拒绝子空间,而非全参数微调。据其发布信息,模型硬拒绝率从基线 94.5% 降至 2.1%,直接合规率升至 97.9%,能力保留 99.2%;MMLU Abstract Algebra 0-shot 37.00%,GSM8K 28.00%,困惑度门槛 <25 通过。 模型以 bfloat16/float16 合并 16-bit 权重开放,作者提示生产部署需自行加外部护栏。

AI 根据报道生成 · 53 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. Hugging Face · 新模型:abliterated精选
    Qwen2.5-1.5B-Abliterated-2.0.1 发布,硬拒绝率从94.5%降至2.1%

    AmareshHebbar 发布基于 unsloth/Qwen2.5-1.5B-Instruct 的 abliterated 版本,采用 Winsorized Gram-Schmidt 正交投影在权重空间中和拒绝子空间,而非全参数微调。硬拒绝率从基线 94.5% 降至 2.1%,直接合规率升至 97.9%,能力保留 99.2%;MMLU Abstract Algebra 0-shot 37.00%,GSM8K 28.00%,困惑度门槛 <25 通过。模型以 bfloat16/float16 合并 16-bit 权重开放,作者提示生产部署需自行加外部护栏。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。