Heretic 去对齐版 DeepSeek-V4-Pro-Qwen3.5-4B 发布
热点事件历史事件
Heretic 去对齐版 DeepSeek-V4-Pro-Qwen3.5-4B 发布
1 篇报道1 个报道来源5 天前更新
先了解这件事
AI 综述
用户 fantasyx07 用 Heretic v2.0.0 制作了 Jackrong/DeepSeek-V4-Pro-Qwen3.5-4B 的去对齐版本并在 Hugging Face 发布。其模型卡称拒绝率从原模型的 99/100 降到 5/100,KL 散度为 0.0378,并公开了 Arbitrary-Rank Ablation 参数(作用层为第 16 至 32 层)。 被去对齐的原模型是一个推理模型:使用 DeepSeek-V4-Pro(Max Effect)蒸馏约 25 万数学与 STEM 样本对 Qwen3.5-4B 微调而成,未包含编码数据,GSM8K 两轮 pass@1 均值 91.77%,MMLU-Pro 三科平均 76.47%(MTP-Q8 GGUF 构建,经 llama.cpp 评测)。
AI 根据报道生成 · 4 天前更新
最新进展11月18日 12:20
fantasyx07 发布 DeepSeek-V4-Pro-Qwen3.5-4B 的 Heretic 去对齐版报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- Hugging Face · 新模型:uncensored精选fantasyx07 发布 DeepSeek-V4-Pro-Qwen3.5-4B 的 Heretic 去对齐版
fantasyx07 用 Heretic v2.0.0 制作了 Jackrong/DeepSeek-V4-Pro-Qwen3.5-4B 的去对齐版本,拒绝率从 99/100 降到 5/100,KL 散度为 0.0378,并公开了 Arbitrary-Rank Ablation 参数。原模型是使用 DeepSeek-V4-Pro(Max Effect)蒸馏约 25 万数学与 STEM 样本微调的 Qwen3.5-4B 推理模型,GSM8K 两轮 pass@1 均值 91.77%,MMLU-Pro 三科平均 76.47%,MTP-Q8 GGUF 构建经 llama.cpp 评测,未包含编码数据。