Hugging Face · 新模型:abliterated·· 23 小时前精选AI 评分60
gpillon 发布 Qwen3.8-27B 16 GB 显卡可用的 abliterated 去对齐版本
gpillon/Qwen3.8-27B-trellis-3bpw-abliterated-ignis
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/gpillon/Qwen3.8-27B-trellis-3bpw-abliterated-ignis
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
gpillon 发布 Qwen3.8-27B-trellis-3bpw-abliterated-ignis,将 huihui-ai 的 abliterated 去对齐权重中 70 个矩阵按 16 GB 版本的位宽重量化,供 ignis 在 RTX 5060 Ti 16 GB、5070 Ti、5080 上运行。该模型不拒绝请求,可遵循有害指令,作者建议把护栏放在应用或工具层。文中给出 KLD 0.0409(基线 0.0403)、DFlash2 每轮 token 3.186(基线 3.191)以及拒绝行为与 16 GB 版本一致的门限数据,文件为 .ninfer v2 容器,需 ignis v0.9.4 起加载,采用 Apache License 2.0。
推荐理由
原文给出了70个矩阵的重量化方法、KLD与拒绝率对照数据,读者可以据此判断这个去对齐版本相对基线的偏移程度。
来源:Hugging Face · 新模型:abliterated · huggingface.co
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。