Hugging Face · 新模型:abliterated·· 14 小时前精选AI 评分71
orcarouter 发布 MiniMax-M3.1-Flash 去对齐版 GGUF,Mix-128G 量化后可装进 128 GB 内存
orcarouter/MiniMax-M3.1-Flash-abliterated-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/orcarouter/MiniMax-M3.1-Flash-abliterated-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
orcarouter 发布 MiniMax-M3.1-Flash 的 abliterated(去拒绝)版 GGUF,模型为 426B 参数 MoE、128 个 routed experts、1M token 上下文。Mix-128G 构建 111.9 GB,是首个能装进 128 GB 内存的公开量化版,同尺寸下 KLD 1.061 不到 llama.cpp IQ2_XXS(2.466)的一半;去对齐后有害提示平均拒绝率从 94.4% 降到 54.9%,良性提示过度拒绝从 8.8% 降到 2.4%,MMLU 84.0%→83.0%。
推荐理由
给出了按 KLD 实测搜索混合精度和去对齐前后拒绝率的对照数据,读者可据此评估 2-bit 量化版的实际质量。
来源:Hugging Face · 新模型:abliterated · huggingface.co