SuperQwen3.8-27b abliterated 模型发布 MLX 4-bit 版
热点事件历史事件
SuperQwen3.8-27b abliterated 模型发布 MLX 4-bit 版
1 篇报道1 个报道来源3 天前更新
先了解这件事
AI 综述
npario 在 Hugging Face 发布 Jiunsong/SuperQwen3.8-27b-abliterated 的 MLX 4-bit 版本,约 15 GiB,可直接在 Apple Silicon 上本地加载。发布者称,消融采用 rank-4 OBLITERATUS 配方,基于 842 对有害/无害样本改动 100 个 BF16 张量后重新量化;实测有害拒绝率从父模型的 30/32 降至 0/32,能力保持 7/8,并通过 36/36 项推理回归检查。
AI 根据报道生成 · 3 天前更新
报道时间线
沿着报道,了解事件的不同侧面。
11月20日
- Hugging Face · 新模型:abliterated精选SuperQwen3.8-27b-abliterated 发布 MLX 4-bit 版,父模型拒绝率从 30/32 降至 0/32
npario 在 Hugging Face 发布 Jiunsong/SuperQwen3.8-27b-abliterated 的 MLX affine 4-bit 版,占用约 15 GiB,可直接在 Apple Silicon 上本地加载。消融采用 rank-4 OBLITERATUS 配方,基于 842 对有害/无害样本,改动 100 个 BF16 张量并重新量化为 300 个 MLX 权重条目;实测 M5 Max 上 AR 解码中位 27.011 tok/s,DFlash 2 block 3 无损投机解码 33.374 tok/s,有害拒绝从父模型 30/32 降至 0/32,能力保持 7/8,36/36 项推理回归检查通过。