跳到正文
我的
Hugging Face · 新模型:uncensored·· 56 分钟前精选AI 评分69

dealignai 发布 Ripple-65B-Preview-UNCENSORED GGUF 量化版

dealignai/Ripple-65B-Preview-UNCENSORED-GGUF

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/dealignai/Ripple-65B-Preview-UNCENSORED-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

dealignai 将 ricursiveAI/Ripple-65B-Preview 去除拒绝行为后量化成 llama.cpp 可用的 GGUF,提供 Q4_K_M(约 38 GB)与 IQ2_XXS(约 22 GB)两个版本,并附带未修改的 DFlash2 投机解码 drafter。在 HarmBench-320 上两个量化版硬合规率分别为 91.2% 和 93.4%,硬拒绝为 0,未合规输出主要是把请求改写成更安全的变体。MMLU-500 上 Q4_K_M 比同量化基线低 4.4 pp,IQ2_XXS 则高 4.2 pp。

推荐理由

原文给出了 HarmBench-320 逐类别的硬合规率与零硬拒绝结果,读者可据此判断这个去对齐量化版在各类敏感任务上的实际表现。

来源:Hugging Face · 新模型:uncensored · huggingface.co

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。