selimsb发布DeepSeek-V4-Pro-Qwen3.5-9B的Heretic去对齐版
先了解这件事
用户 selimsb 在 Hugging Face 发布了 DeepSeek-V4-Pro-Qwen3.5-9B 的去对齐版本(selimsb/DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED-heretic),使用 Heretic v2.0.0.dev0 消融,拒绝率从原版的 100/100 降到 3/100,KL 散度为 0.0422。 原模型是 Jackrong 发布的、由 DeepSeek-V4-Pro(Max Effect)蒸馏并基于 Qwen3.5-9B 的推理微调模型,用约 250K 数学与 STEM 样本做 SFT 加 GSPO 精调;蒸馏版 GSM8K 四次平均 94.50%,MMLU-Pro 三子集平均 90.53%,每正确答案 token 消耗比 Qwen3.5-9B 少 36.1%。 发布者称这是一个实验性 9B 社区模型,在困难或表述不清的任务上仍可能出现幻觉、推理错误和不稳定行为。
AI 根据报道生成 · 1 天前更新
报道时间线
沿着报道,了解事件的不同侧面。
- Hugging Face · 新模型:uncensoredDeepSeek-V4-Pro-Qwen3.5-9B 的 Heretic 去对齐版发布,拒绝率从 100/100 降到 3/100
selimsb 在 Hugging Face 发布 DeepSeek-V4-Pro-Qwen3.5-9B 的去对齐版本,使用 Heretic v2.0.0.dev0 消融,拒绝率从原版的 100/100 降到 3/100,KL 散度为 0.0422。原模型是由 DeepSeek-V4-Pro(Max Effect)蒸馏、基于 Qwen3.5-9B 的推理微调模型,用约 250K 数学与 STEM 样本做 SFT 加 GSPO 精调;该蒸馏版 GSM8K 四次平均 94.50%,MMLU-Pro 三子集平均 90.53%,并且每正确答案 token 消耗比 Qwen3.5-9B 少 36.1%。