Hugging Face · 新模型:abliterated·· 18 天前精选AI 评分75
Kujira 发布 Underdog Saluki 27B 1.0 MTP 去拒答 GGUF 版
Kujira/Underdog-Saluki-27B-1.0-MTP-Abliterated-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/Kujira/Underdog-Saluki-27B-1.0-MTP-Abliterated-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Kujira 在 Hugging Face 发布 Underdog-Saluki-27B-1.0-MTP 的 abliterated GGUF 版,仅改动第 35–36 层的 4 个张量,其余 862 个张量与原文件字节级一致,未做训练。有害提示词拒绝率从 99% 降到 1%(开思考时 78% 到 2%),英语困惑度上升 1.6%、日语上升 1.8%,速度和显存与 MTP 版相同,约 58–62 tok/s,12 GB 显卡可用 40K 上下文。消融方法未公开。
推荐理由
原文列出消融改动的具体张量、拒绝率前后对比和困惑度变化,读者可以评估这个去对齐版本的代价。
来源:Hugging Face · 新模型:abliterated · huggingface.co