Hugging Face · 新模型:abliterated·· 16 小时前精选AI 评分74
0xKitkat 发布 Ripple-65B-Preview 无对齐 GGUF 量化版
0xKitkat/Ripple-65B-Preview-abliterated-GGUF
来源与原文
Hugging Face · 新模型:abliterated
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/0xKitkat/Ripple-65B-Preview-abliterated-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
0xKitkat 发布了 ricursiveAI/Ripple-65B-Preview 的无对齐 GGUF 量化版本,该模型为 64.78B 参数的稠密模型,面向智能体编码。作者将拒绝方向从 token 嵌入和 63 层中投影出去,未重新训练或微调,在 48 条有害提示上拒绝数从 48/48 降到 1/48,无害提示误拒从 2/24 降到 0/64。提供 Q4_K_M、Q5_K_M、Q6_K、Q8_0 四个量化,采用 Apache-2.0 许可,需 llama.cpp PR #31692 之后的版本才能加载。
推荐理由
原文给出了消融方法与48条有害提示的拒绝率前后对比,读者可据此判断这个去对齐量化版去掉了多少拒绝。
来源:Hugging Face · 新模型:abliterated · huggingface.co
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。