Hugging Face · 新模型：abliterated·· 44 分钟前精选AI 评分62
Abliterant 发布 Qwen3.5-9B-RANA-abliterated 的 MLX 量化版
abliterant/Qwen3.5-9B-RANA-abliterated-MLX
来源与原文
Hugging Face · 新模型：abliterated
发布时间：（北京时间）
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/abliterant/Qwen3.5-9B-RANA-abliterated-MLX
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Abliterant 发布了 Qwen3.5-9B-RANA-abliterated 的 MLX 版本，面向 Apple Silicon，提供 4、5、6、8-bit 量化与 BF16 文件夹，并附带 MTP 草稿模型用于投机解码，各档位均包含视觉能力。量化采用 AWQ 校准，8-bit 相对 BF16 的 KL 为 0.0009，4-bit 为 0.0539。与 bowmanslayer/Qwen3.5-9B-Uncensored 相比，BF16 版本对有害请求的有用回答率为 67.4% 对 52.5%，能力损失为 0.79 对 3.31 pp。
推荐理由
原文给出了各量化档位与 BF16 的 KL 对比，以及与另一公开 abliteration 版本的有用回答率和能力损失对照。
来源：Hugging Face · 新模型：abliterated · huggingface.co
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。