dealignai发布Ripple-65B去审查GGUF量化版

dealignai 将 ricursiveAI/Ripple-65B-Preview 去除拒绝行为后量化成 llama.cpp 可用的 GGUF，发布 Ripple-65B-Preview-UNCENSORED，提供 Q4_K_M（约 38 GB）和 IQ2_XXS（约 22 GB）两个版本，并附带未修改的 DFlash2 投机解码 drafter。 dealignai 称，在 HarmBench-320 上两个量化版的硬合规率分别为 91.2% 和 93.4%，硬拒绝为 0，未合规输出主要是把请求改写成更安全的变体；在 MMLU-500 上，Q4_K_M 比同量化基线低 4.4 pp，IQ2_XXS 则高 4.2 pp。 两个版本均经 imatrix 校准，其中 Q4_K_M 被标为推荐版、IQ2_XXS 为最小版；dealignai 建议为完整长度回答预留 2048 token，并注明用途为研究。

AI 根据报道生成 · 45 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。