跳到正文
Hugging Face · 新模型:abliterated·· 19 天前精选AI 评分74

MiniMax-M3.1-Flash abliterated GGUF 权重发布,拒绝率从 96% 降到 1%

operationrange/MiniMax-M3.1-Flash-abliterated-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/operationrange/MiniMax-M3.1-Flash-abliterated-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

operationrange 在 Hugging Face 发布 MiniMax-M3.1-Flash 的 abliterated GGUF 版本,基于 unsloth 的 UD-Q8_K_XL 量化直接对残差流写入权重做正交投影消融,不做微调。100 个 held-out 有害提示的拒绝率从原版 96% 降到 1%,GSM8K 98%→97%、MMLU 79.0%→78.5%,对原模型的 KL 散度均值 0.75。模型约 272 GB,需 llama.cpp 的 MiniMax-M3.1 支持(PR #31192),实测于 4× RTX PRO 6000,编辑过的专家权重存为 Q8_0 以避免 NVFP4 重量化抹掉修改;DSpark 投机解码草稿仍可用。

推荐理由

作者公布了消融方法、各变体对比和拒绝率与基准数据,读者可以据此判断这个去对齐版本的代价和效果。

来源:Hugging Face · 新模型:abliterated · huggingface.co