Hugging Face · 新模型:abliterated·· 3 天前精选AI 评分67
SuperQwen3.8-27b-abliterated 发布 MLX 4-bit 版,父模型拒绝率从 30/32 降至 0/32
npario/SuperQwen3.8-27b-abliterated-MLX-4bit
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/npario/SuperQwen3.8-27b-abliterated-MLX-4bit
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
npario 在 Hugging Face 发布 Jiunsong/SuperQwen3.8-27b-abliterated 的 MLX affine 4-bit 版,占用约 15 GiB,可直接在 Apple Silicon 上本地加载。消融采用 rank-4 OBLITERATUS 配方,基于 842 对有害/无害样本,改动 100 个 BF16 张量并重新量化为 300 个 MLX 权重条目;实测 M5 Max 上 AR 解码中位 27.011 tok/s,DFlash 2 block 3 无损投机解码 33.374 tok/s,有害拒绝从父模型 30/32 降至 0/32,能力保持 7/8,36/36 项推理回归检查通过。
推荐理由
原文给出消融配方、量化转换流程和在 Apple Silicon 上的拒绝率与推理速度实测数据,可直接评估该版本的去对齐效果。
来源:Hugging Face · 新模型:abliterated · huggingface.co