跳到正文
我的
Hugging Face · 新模型:abliterated·· 16 小时前精选AI 评分74

0xKitkat 发布 Ripple-65B-Preview 无对齐 GGUF 量化版

0xKitkat/Ripple-65B-Preview-abliterated-GGUF

来源与原文

Hugging Face · 新模型:abliterated

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/0xKitkat/Ripple-65B-Preview-abliterated-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

0xKitkat 发布了 ricursiveAI/Ripple-65B-Preview 的无对齐 GGUF 量化版本,该模型为 64.78B 参数的稠密模型,面向智能体编码。作者将拒绝方向从 token 嵌入和 63 层中投影出去,未重新训练或微调,在 48 条有害提示上拒绝数从 48/48 降到 1/48,无害提示误拒从 2/24 降到 0/64。提供 Q4_K_M、Q5_K_M、Q6_K、Q8_0 四个量化,采用 Apache-2.0 许可,需 llama.cpp PR #31692 之后的版本才能加载。

推荐理由

原文给出了消融方法与48条有害提示的拒绝率前后对比,读者可据此判断这个去对齐量化版去掉了多少拒绝。

来源:Hugging Face · 新模型:abliterated · huggingface.co

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。