跳到正文
Hugging Face · 新模型:uncensored·· 4 天前精选AI 评分76

candor-lab 发布 Qwen3.8-27B Candor Uncensored GGUF 去对齐权重

candor-lab/Qwen3.8-27B-Candor-Uncensored-GGUF

来源与原文

Hugging Face · 新模型:uncensored

发布时间:(北京时间)

阅读原始来源 · huggingface.co ↗
完整链接与内容说明

https://huggingface.co/candor-lab/Qwen3.8-27B-Candor-Uncensored-GGUF

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

candor-lab 在 Hugging Face 发布 Qwen3.8-27B 的去对齐版本 Qwen3.8-27B-Candor-Uncensored-GGUF,用其自研权重编辑工具 Candor 移除原版的拒答方向,以单一 Q4_K_M GGUF(16.81 GB)形式在 llama.cpp 上实测。方法是对 26-63 层注意力输出矩阵和 22-56 层 MLP 输出矩阵做 rank-3 修改(共 73 个矩阵),经 600 次搜索试验筛选。实测显示:288 个 StrongREJECT 有害提示下原版拒答 281 次,该模型仅 1 次(8B 判官口径);300 个无害提示拒答 2 次、GSM8K 答对 1287 题,与原版差异不超噪声;KL 散度 0.038。

推荐理由

原文给出了消融方法的层级改动细节和与原版、huihui-ai 版的拒绝率与 KL 散度对照数据,可据此评估这个去对齐版本的实际取舍。

来源:Hugging Face · 新模型:uncensored · huggingface.co