Hugging Face · 新模型:uncensored·· 2 小时前精选AI 评分65
candor-lab 发布 Spark-X2.5-4B 去对齐 GGUF 版本,288 个有害提示词拒绝数从 282 降到 0
candor-lab/Spark-X2.5-4B-Candor-Uncensored-GGUF
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/candor-lab/Spark-X2.5-4B-Candor-Uncensored-GGUF
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
candor-lab 发布 Spark-X2.5-4B-Candor-Uncensored-GGUF,通过权重编辑移除原模型的拒绝行为,288 个有害提示词的拒绝数从 282 降到 0,无害提示词拒绝数从 4 降到 0。编辑为 rank-3 修改,涉及 72 层中的 31 个输出矩阵,KL 散度 0.046,GSM8K 正确数 1,228 对 1,236,均在噪声范围内;有害提示词的中位思考 token 从 415 升至 1,318,约 3.2 倍。模型以 Q4_K_M GGUF 发布(2.60 GB),基于 XHToken 的 16-bit 原始权重,Apache License 2.0,仅提供这一种量化,实测仅限 llama.cpp b11524、英文、开启思考的场景。
推荐理由
原文给出了完整的拒绝率、KL 散度和 GSM8K 前后对比数据,读者可以据此判断这次权重编辑去掉了多少、代价多大。
来源:Hugging Face · 新模型:uncensored · huggingface.co