跳到正文
热点事件历史事件

selimsb发布DeepSeek-V4-Pro-Qwen3.5-9B的Heretic去对齐版

1 篇报道1 个报道来源12 天前更新

先了解这件事

AI 综述

用户 selimsb 在 Hugging Face 发布了 DeepSeek-V4-Pro-Qwen3.5-9B 的去对齐版本(selimsb/DeepSeek-V4-Pro-Qwen3.5-9B-UNCENSORED-heretic),使用 Heretic v2.0.0.dev0 消融,拒绝率从原版的 100/100 降到 3/100,KL 散度为 0.0422。 原模型是 Jackrong 发布的、由 DeepSeek-V4-Pro(Max Effect)蒸馏并基于 Qwen3.5-9B 的推理微调模型,用约 250K 数学与 STEM 样本做 SFT 加 GSPO 精调;蒸馏版 GSM8K 四次平均 94.50%,MMLU-Pro 三子集平均 90.53%,每正确答案 token 消耗比 Qwen3.5-9B 少 36.1%。 发布者称这是一个实验性 9B 社区模型,在困难或表述不清的任务上仍可能出现幻觉、推理错误和不稳定行为。

AI 根据报道生成 · 1 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. Hugging Face · 新模型:uncensored
    DeepSeek-V4-Pro-Qwen3.5-9B 的 Heretic 去对齐版发布,拒绝率从 100/100 降到 3/100

    selimsb 在 Hugging Face 发布 DeepSeek-V4-Pro-Qwen3.5-9B 的去对齐版本,使用 Heretic v2.0.0.dev0 消融,拒绝率从原版的 100/100 降到 3/100,KL 散度为 0.0422。原模型是由 DeepSeek-V4-Pro(Max Effect)蒸馏、基于 Qwen3.5-9B 的推理微调模型,用约 250K 数学与 STEM 样本做 SFT 加 GSPO 精调;该蒸馏版 GSM8K 四次平均 94.50%,MMLU-Pro 三子集平均 90.53%,并且每正确答案 token 消耗比 Qwen3.5-9B 少 36.1%。