Hugging Face · 新模型:abliterated·· 3 天前精选AI 评分74
Underdog Saluki 27B 1.0 MTP 的 abliterated GGUF 版发布,有害提示拒绝率从 99% 降至 1%
yachiyo8080/Underdog-Saluki-27B-1.0-MTP-Abliterated-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/yachiyo8080/Underdog-Saluki-27B-1.0-MTP-Abliterated-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
yachiyo8080 发布 Underdog Saluki 27B 1.0 + MTP 的 abliterated GGUF 量化版(IQ2-mix,8.35 GB),仅改动 blk.35-36 的 4 个张量,未做训练,方法未公开。实测有害提示拒绝率从 99% 降到 1%(thinking 开启时 78% 降到 2%),无拒绝 0% 不变,英文/日文 perplexity 分别上升 1.6% 和 1.8%,MTP 自推测解码与速度(约 58-62 tok/s)保持不变。
推荐理由
模型卡给出了改动的张量清单、拒绝率前后对照和困惑度变化,读者可以据此评估这个去对齐版本的质量损失。
来源:Hugging Face · 新模型:abliterated · huggingface.co
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。