Hugging Face · 新模型:uncensored·· 11 天前精选AI 评分56
Qwen3.5-4B 多蒸馏合并模型发布 Heretic 去对齐版,拒绝率从 95/100 降至 3/100
xtools-at/Qwen3.5-4B-MultiDistill-Megamix-8xMerge-UNCENSORED-heretic
来源与原文
Hugging Face · 新模型:uncensored
发布时间:(北京时间)
阅读原始来源 · huggingface.co ↗完整链接与内容说明
https://huggingface.co/xtools-at/Qwen3.5-4B-MultiDistill-Megamix-8xMerge-UNCENSORED-heretic
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
xtools-at 在 Hugging Face 发布 Qwen3.5-4B-MultiDistill-Megamix-8xMerge 的去对齐版本,使用 Heretic v2.0.0.dev0 制作并提供复现说明。该模型本身是三个 Qwen3.5-4B 检查点的线性加权合并,权重分别为 1.0、0.8、0.6,涉及推理蒸馏、Claude 衍生数据与 Heretic 变体。去对齐后拒绝率从原模型的 95/100 降至 3/100,KL 散度为 0.0883;作者未提供合并后模型的基准成绩,建议部署前与基座及三个源检查点对比评测。许可证为 Apache-2.0。
推荐理由
原文给出 Heretic 消融参数与拒绝率前后对比,从 95/100 降到 3/100,可复现方法也写清了。
来源:Hugging Face · 新模型:uncensored · huggingface.co