跳到正文
  1. Hugging Face · 新模型:uncensored52

    fribourgquants 发布 Qwen3.8-27B TURBO 去对齐 GGUF 微调版

    fribourgquants 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段微调 GGUF 版本,主打去对齐与思考 token 缩减。用 Heretic v1.2.0+custom 的 ARA 方法消融后,Stage 1 拒绝数从原版 99/100 降到 0/100,Stage 2 平衡后为 11/100、KL 散度 0.0025;8bit ARC-C 达 0.735、ARC-E 0.882,4bit ARC-C 0.719,均高于原版 Qwen3.8-27B。思考块缩减至原版约 1/2 到 1/10,支持 xhigh/medium/low 三档推理模式;MTP 量化在 Q4_K_S 上约 90 t/s,普通量化约 75 t/s(5090、LMStudio 实测)。

    推荐理由:作者给出了 Heretic 消融前后 100 次拒绝数与 KL 散度的对照数据,以及各量化档位的基准分数,可据此评估该去对齐微调的实际效果。

  2. Hugging Face · 新模型:abliterated66

    theJuice85 发布 Qwen3.8-27B 去对齐 LoRA 适配器,硬拒绝率降至约 0

    theJuice85 在 Hugging Face 发布面向 Qwen3.8-27B-GGUF(Q4_K_XL)的去对齐 LoRA 适配器 heretic-qwen38-t26,用 directional ablation 搜索找到。实测将硬拒绝率从基座的 33-86% 降到约 0,能力评测(AIME24、GPQA、MMLU Pro 等 43 个成对项)未发现可统计的能力损失;仅 2.5 MB,AGPL-3.0-or-later。注意其只评测了拒绝率与能力回归,未评测下游安全性,且系统提示词是必要条件,缺失时模型会以带说教的方式作答。

    推荐理由:作者给出成对的拒绝率与能力回归数据,硬拒绝从 33-86% 降到约 0 且能力无可测差异,可据此判断这个去对齐适配器的实际效果。

  1. Hugging Face · 新模型:abliterated56

    PinoCookie 发布 Qwen3Guard-Gen-4B-Abliterated 去对齐版

    PinoCookie 在 Hugging Face 发布 Qwen/Qwen3Guard-Gen-4B 的 abliterated 版本,移除该安全分类器的有害内容标记行为,而非聊天模型的拒绝行为。在 80+80 对照集上,原版标记 78/80 有害对,消融后标记 0/80,良性选择性保持 80/80 Safe,margin 排序 AUC 从 0.988 降至 0.9755;采用 L32 α=6.0 的单层 o_proj+down_proj 消融点,同配方复现三次结果一致,并在不同主体模型的 40+40 新切片上复验。

    推荐理由:原文给出消融方法、逐层消融网格和 80+80 对照数据,可据此判断这次对 guard 模型的去对齐到底去掉了什么、代价多大。

  2. Hugging Face · 新模型:abliterated52

    DevelopingDad 发布 Qwen3.8-Flash-Next-FP4-Local 去对齐实验版 trial117

    DevelopingDad 在 Hugging Face 发布基于 NVIDIA Qwen3.8-Flash-Next-FP4-Local 的去对齐实验权重 trial117,将 trial 117 实验的拒绝方向干预直接烘焙进 checkpoint,无需运行时 adapter。在两台 DGX Spark 的 TP=2 对照测试中,烘焙版开发集拒绝 0/100、保留集 3/100,与 adapter 的 KL 差异约 0.037 nats;原定的零拒绝目标和 0.20 KL 上限未达成。需 B12X vLLM 运行时,TP=1 冒烟测试通过 5 项基础检查,长上下文、多模态与工具调用能力未经验证。

    推荐理由:作者给出了 adapter 与烘焙权重在拒绝数和 KL 上的对照数据,并明确标注了未验证的能力范围,便于读者自行评估这个实验版本。

  1. Hugging Face · 新模型:uncensored71

    botp 发布 Qwen3.8-Flash-Next 去审查方向文件 china-v1

    botp 发布 china-v1 审查方向文件,推理时在第 4 到 44 层投影掉该方向分量,使 Qwen3.8-Flash-Next 不再对中国敏感话题拒答或用宣传口径,原权重不变、可按请求开关。192 题评测中敏感话题拒答/回避率从 58% 降到 2%,校准回答从 11% 升到 56%;质量对照显示 Agentic 任务 34/34 持平,HumanEval+ 156 对 155、GSM8K 50 对 49、MMLU 96 对 97。方向由 30 组中英对照对比对的残差流均值差构造,已在 Strata 生产环境验证,llama.cpp 原生 --control-vector 是加法而非投影、不能复现结果;作者提示 1989 年六四短问题仍可能回避,法轮功、大饥荒和新疆的数字细节可能夸大。

    推荐理由:原文给出审查方向的构造方法、192 题评测和 paired 质量对照,读者可自行判断去审查效果与能力损失。

  2. Hugging Face · 新模型:abliterated52

    huginnfork 发布 Qwen3.8-Flash-Next-FLARE-Abliterated 去对齐版

    huginnfork 发布基于 local-inference-lab/Qwen3.8-Flash-Next-FLARE 的 abliterated 版本,对 25,188 个张量中的 24,576 个做了拒绝方向编辑,属于不完整编辑。在 16 条提示词、协议 A(关闭思考)下,未编辑母模型拒绝率 100%,该版本为 18.8%,完整参考版为 0%;作者提醒 n=16 区间较宽,残余拒绝来自未编辑的 612 个注意力、共享专家和嵌入张量。

    推荐理由:原文给出拒绝率实测和未编辑张量清单,读者可以据此判断这个不完整消融版本到底去掉了多少对齐。

  3. Hugging Face · 新模型:uncensored68

    Qwen3.8-Flash-Next-Uncensored BF16 消融版发布,拒绝率降至接近零

    Lygodactylus 在 Hugging Face 发布 Qwen/Qwen3.8-Flash-Next 的 abliterated 去对齐 BF16 全精度权重,按 Arditi et al. (2024) 方法从残差流中正交化移除拒绝方向,共编辑 149 个残差写入张量,保留完整视觉与视频塔(333 个 visual.* 张量)和 MTP 头。

    推荐理由:原文给出按 Arditi et al. 2024 方法消融拒绝方向后的拒绝率与能力对比数据,读者可据此评估这个去对齐版本的实际代价。

  1. Hugging Face · 新模型:abliterated60

    Qwen2.5-32B-Instruct abliterated 去对齐版本发布

    varun-balani 在 Hugging Face 发布 Qwen2.5-32B-Instruct 的 abliterated 版本,用 Heretic 的 ARA 修饰器去除拒绝方向。mlabonne/harmful_behaviors 拒绝率从 98/100 降到 10/100,相对基座模型 KL 散度 0.22;该结果从 24 次试验的优化中选出,提供 bf16 全量权重及 Q4_K_M(约 20 GB)和 Q8_0(约 35 GB)GGUF 量化版本,Q4_K_M 可在约 36 GB 内存的本地环境用 Ollama、LM Studio 或 llama.cpp 运行。

    推荐理由:原文给出拒绝率前后对比和 KL 散度数据,可据此判断这个去对齐版本的行为漂移程度。

  2. Hugging Face · 新模型:uncensored60

    tatekuperus 发布 Qwen3.6-27B-Fable-Fusion-711 无对齐 GGUF 量化版

    tatekuperus 在 Hugging Face 发布基于 Qwen/Qwen3.6-27B 的多阶段微调与合并模型 Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic GGUF 量化版,作者称其为首个在 8bit 和 4bit 下 ARC-C 超过 700 的该规模微调。去审查由 trohrbaugh 用 Heretic v1.2.0+custom 的 Arbitrary-Rank Ablation 方法完成,拒绝率从原版 99/100 降至 4/100,KL 散度 0.0469;作者给出的基准显示该模型在 7 项基准中 6 项超过 Qwen3.6-27B 基座。

    推荐理由:作者给出 Heretic 消融方法与去审查前后拒绝率对比,并附多组基准和第三方实测数据,可核对去对齐是否损伤模型能力。

  1. Hugging Face · 新模型:uncensored58

    xdfhg 发布 Qwen3.8-27B-Uncensored-Cyber 去拒绝版

    xdfhg 在 Hugging Face 发布基于 Qwen3.8-27B 的网络安全领域去拒绝模型 Qwen3.8-27B-Uncensored-Cyber,采用 recipe-v2 单向拒绝消融加 β=1.0 范数保持投影,仅对第 4 层起更深层处理,保留视觉塔与 MTP 投机解码头。bf16 评测显示 100 个 held-out 网络攻击提示全部开放(上一版为 93/100),confab 从 1.0 降至 0.867,事实准确率 1.0 优于上一版 0.933,GSM8K 持平且零退化,并提供 -W4A16-AWQ、NVFP4 及 llama.cpp GGUF 量化版本。

    推荐理由:原文给出 v2 配方与前后两版的拒绝率、事实准确率对照数据,可据此评估这版去拒绝在开放度与能力保留之间的取舍。

  1. Hugging Face · 新模型:uncensored58

    Qwen3.8-27B 去对齐微调版发布 GGUF 量化,ARC-C 达 735 并大幅压缩思考 token

    Sameer3336s 发布基于 Qwen/Qwen3.8-27B 的去对齐微调版 GGUF 量化仓库,8bit ARC-C 735、ARC-E 882,4bit ARC-C 719,均高于原版 Qwen3.8-27B。模型用 Heretic v1.2.0+ ARA 方法去审查,Stage 1 拒绝率从 99/100 降到 0/100,KL 散度 0.0535;思考 token 减至原版的 1/2 到 1/10。仓库含常规与 MTP 两种 NEO imatrix 量化,作者在 5090 上测得 Q4_K_S 常规版约 75 t/s、MTP 版可超 90 t/s,支持 256k 上下文与视觉(需另下 mmproj 文件)。

    推荐理由:作者给出 Heretic ARA 消融的拒绝率前后对比和各量化档基准分数,可据此核对去对齐与性能代价。

  1. Hugging Face · 新模型:abliterated57

    Huihui-Qwen3.8-Flash-Next-abliterated 的 EXL3 3.05bpw 整数量化包发布

    gdeyoung 发布了 huihui-ai/Huihui-Qwen3.8-Flash-Next-abliterated 的 EXL3 3.05bpw 整数量化包,LM 层已消融,n-gram 嵌入表、MTP 头和视觉塔与基座逐字节一致。包内 75,277 个张量为 3bpw、472 个为 5bpw、2 个为 4bpw,大小 84 GB,可在单块 GB10(128GB 统一内存)上以 262,144 token 上下文运行,实测拒绝筛查 20/20 无拒绝、thinking-off 解码约 65 tok/s、226k token 海针测试可召回。模型继承 Qwen Community License 1.0,安全过滤显著减弱,输出责任由使用者承担。

    推荐理由:作者给出消融层的说明、拒绝率实测与完整量化配方,读者可据此复现这个 DGX Spark 上的去对齐部署方案。

  1. Hugging Face · 新模型:abliterated79

    gyang274 发布 Huihui-Qwen3.8-27B-abliterated-FP8 量化版并验证 abliteration 编辑足迹

    gyang274 发布了 huihui-ai/Huihui-Qwen3.8-27B-abliterated 的 FP8 量化版,权重为 FP8 E4M3、128×128 分块,保留 MTP head 和 vision tower,检查点 28.75 GiB。与官方 Qwen3.8-27B-FP8 对比只有 70/1,606 张量不同,且全部是写入残差流的 rank-1 编辑;SGLang v0.5.21 评测中 HumanEval 95.7%(官方 98.2%),GSM8K 前 200 题 94.5%(官方 97.5%),15 条易拒 prompt 中 0 拒绝(官方 2 partial),单流解码约 62 tok/s。完整笔记与脚本见 github.com/gyang274/ms-Qwen3.8-27B。

    推荐理由:作者量化了去对齐模型并给出与官方权重的逐张量对比和评测数据,读者可以看到去对齐编辑的具体痕迹和性能代价。

  2. Hugging Face · 新模型:abliterated75

    Qwen3.8-Flash-Next abliterated 版以 fngine 单卡包形式发布

    satellitedown 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 abliterated fngine 单 GPU 推理包,迁移 huihui-ai 的消融结果,48 层单拒绝方向拟合最小余弦 0.9999985。在 RTX 5090 上对 32 个轻度提示词,未消融版拒答 8 个、该包 0 个,数学、Python 与知识测试两版得分相同,速度无可测差异。pack 约 89 GiB,要求 sm_120a GPU、约 60 GB 主机内存,提供 OpenAI 兼容接口与 256K 上下文。

    推荐理由:给出了 abliteration 的迁移方法、消融方向拟合与拒绝率前后对照,可复核的去对齐发布。

  1. Hugging Face · 新模型:uncensored62

    SargeDev 发布 JEV-27B-Uncensored,将 AutoTrust 决策模块合入 abliterated Qwen3.8-27B

    SargeDev 在 Hugging Face 发布 JEV-27B-Uncensored,是 JEV 27B 家族首个 uncensored 成员,将 AutoTrust 的 System-1 决策模块合入 huihui-ai 的 abliterated Qwen3.8-27B 骨干(第 18-51 层消融,视觉塔未动),使决策引擎在无拒绝线路下输出。

    推荐理由:原文给出了消融层范围、决策指标前后对比和拒绝率实测,读者可以据此判断去对齐带来的能力代价。

  2. Hugging Face · 新模型:uncensored76

    AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF 文本编码器,拒绝率从 88.9% 降至 1.2%

    AtomicChat 在 Hugging Face 发布去对齐版 Qwen-Image-2.1-Turbo 文本编码器 GGUF,将 Qwen3-VL-8B-Instruct 的拒绝方向从权重中投影去除。作为聊天模型,英文拒绝率从 88.9% 降到 1.2%,俄语从 38% 降到 0%,MMLU 保持 77.35% 不变;45 条敏感图像提示词测试中无一翻转,图像输出仅有约 0.088 的 LPIPS 漂移。提供 BF16 到 Q2_K 量化分档,配 stable-diffusion.cpp 的 --llm 参数本地运行,方法基于 Arditi et al. 2024 的单方向拒绝机制研究。

    推荐理由:原文完整给出拒绝方向消融方法、拒绝率前后对照和量化分档对画面的影响,可据此自行评估这个去对齐编码器的实际改动幅度。

  3. Hugging Face · 新模型:uncensored56

    Qwen3.5-9B-Claude-4.6-HighIQ-INSTRUCT-HERETIC-UNCENSORED 微调模型发布,拒绝率从 100/100 降至 6/100

    cookies55 在 Hugging Face 发布了 Qwen3.5-9B 的去审查微调版,用 Unsloth 在本地硬件以 Claude 4.6 大型蒸馏数据集训练,经 Heretic 消融后拒绝率从 100/100 降到 6/100,KL 散度为 0.0793。该版本为 INSTRUCT 模式并修改了 jinja 模板,图像输入经测试可用,视频部分未测试,建议最低 q4ks(非 imatrix)或 IQ3S(imatrix)量化。

    推荐理由:作者给出了消融后的 KL 散度和拒绝率前后对比,以及七项基准分数变化,读者可自行判断去对齐的代价。

  4. Hugging Face · 新模型:uncensored79

    Qwen3.8-27B-Uncensored GGUF 量化版发布,拒绝率从 98/100 降至 12/100

    作者发布了 Qwen3.8-27B-Uncensored 的 GGUF 量化版本(IQ2_M 到 Q8_0),用 Heretic 移除拒绝方向,保留 MTP 头,拒绝行为显著减少但未消除,从 100 个有害提示中的 98 个降至 12 个。权重编辑带来约 0.043 的困惑度增加(相对约 0.7%),MMLU、ARC-Challenge、HellaSwag、Winogrande 四项基准平均下降 0.5 分且均在标准误内。模型卡同时给出 imatrix、自建低比特量化方法和 MTP 投机解码实测(n_max 1 时约 1.19x-1.28x 加速)。

    推荐理由:作者给出了 Heretic 消融方法、拒绝率从 98/100 降到 12/100 以及困惑度和基准的前后对照数据,可以据此判断权重编辑的实际代价。

  5. Hugging Face · 新模型:uncensored63

    j-llm 发布 Qwen3.8-27B-Uncensored 的 OptiQ 混合 4/8-bit MLX 量化版

    j-llm 在 Hugging Face 发布 orcarouter/Qwen3.8-27B-Uncensored 的 OptiQ 混合 4/8-bit MLX 量化版,约 19.2 GB,5.13 bits/weight。该量化基于对 uncensored 权重直接测量的逐层 KL 敏感度分配精度,保留 BF16 视觉塔与 MTP head sidecar,262,144 token 上下文;Capability Score 88.86,高于参考版 mlx-community/Qwen3.8-27B-OptiQ-4bit 的 87.98。

    推荐理由:原文给出逐层 KL 敏感度测量和 6 项基准对比,读者可评估混合量化相对参考版的质量取舍。

  6. Hugging Face · 新模型:abliterated76

    Qwen3.8-27B abliterated 版本发布,权重级消融将拒绝率从 99.3% 降至 0%

    rajaykumar12959 在 Hugging Face 发布 Qwen/Qwen3.8-27B 的 abliterated 版本,用 difference-in-means 方向对每个残差写入权重矩阵做正交化,消融直接写入 checkpoint,无 runtime hook 和 LoRA,仅含语言模型部分(bf16,text-only,约需 55 GB 显存)。在 292 个 held-out 有害提示上拒绝率从 99.3% 降至 0%,覆盖全部 12 个类别;代价是 MMLU-Pro 从 65.1% 降至 61.8%(−3.3 pp),harmless 提示上的 KL 散度为 0.086 nats。

    推荐理由:给出了完整的消融方法、逐层扫描和拒绝率前后对比数据,读者可以据此评估这次去对齐的实际代价与副作用。