跳到正文
热点事件历史事件

SuperQwen3.8-27b abliterated 模型发布 MLX 4-bit 版

1 篇报道1 个报道来源3 天前更新

先了解这件事

AI 综述

npario 在 Hugging Face 发布 Jiunsong/SuperQwen3.8-27b-abliterated 的 MLX 4-bit 版本,约 15 GiB,可直接在 Apple Silicon 上本地加载。发布者称,消融采用 rank-4 OBLITERATUS 配方,基于 842 对有害/无害样本改动 100 个 BF16 张量后重新量化;实测有害拒绝率从父模型的 30/32 降至 0/32,能力保持 7/8,并通过 36/36 项推理回归检查。

AI 根据报道生成 · 3 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. Hugging Face · 新模型:abliterated精选
    SuperQwen3.8-27b-abliterated 发布 MLX 4-bit 版,父模型拒绝率从 30/32 降至 0/32

    npario 在 Hugging Face 发布 Jiunsong/SuperQwen3.8-27b-abliterated 的 MLX affine 4-bit 版,占用约 15 GiB,可直接在 Apple Silicon 上本地加载。消融采用 rank-4 OBLITERATUS 配方,基于 842 对有害/无害样本,改动 100 个 BF16 张量并重新量化为 300 个 MLX 权重条目;实测 M5 Max 上 AR 解码中位 27.011 tok/s,DFlash 2 block 3 无损投机解码 33.374 tok/s,有害拒绝从父模型 30/32 降至 0/32,能力保持 7/8,36/36 项推理回归检查通过。