Huihui-Qwen3.8-27B-abliterated GGUF 发布:Qwen3.8-27B 去审查版本
huihui-ai 发布 Qwen/Qwen3.8-27B 的 abliterated 去审查版本,以 GGUF 格式提供,仅对部分层(如 22 至 52 层)做 abliteration 处理,其余层保持不变,并推出 Swift、Ternary、GSQ-RCO、UD-DW 等多个系列。
新闻、仓库与研究,按时间排列。
huihui-ai 发布 Qwen/Qwen3.8-27B 的 abliterated 去审查版本,以 GGUF 格式提供,仅对部分层(如 22 至 52 层)做 abliteration 处理,其余层保持不变,并推出 Swift、Ternary、GSQ-RCO、UD-DW 等多个系列。
huihui-ai 基于 Aleph-Alpha/Kolibri-1 制作了去审查(abliterated)版本,完全用 llama.cpp 的 GGUF 完成,不依赖 Transformers。
独立贡献者 princepppp 发布了 google/gemma-4-E2B-it 的去对齐版本 gemma-4-E2B-it-ultra-uncensored-heretic 的 GGUF 量化,使用 Heretic v1.2.0 的 Arbitrary-Rank Ablation 方法,消融 attn.o_proj 组件(层 17-24)。
推荐理由:作者给出了拒绝率、KL 散度和 MMLU 前后对比,可据此判断这个去对齐版本去掉了多少、损失了多少。
SaturnHeaven 发布 Gemma-4-Queen-31B-it 的 rank-64 abliteration LoRA 适配器 GGUF 版,基于 Heretic v1.2.0 的 ARA 方法对 attn.o_proj 的去对齐差值做 SVD 截断近似,用于角色扮演和创意写作时减少拒绝和免责声明。
推荐理由:作者给出了 rank-64 近似的重构保真度指标和源模型拒绝率对比,读者可据此判断这个 LoRA 适配器去对齐的可靠程度。
grimlee 在 Hugging Face 发布 ukisai/Swift-1.5-Qwen3.8-27b 的去对齐衍生版本,采用 pos46/FULL/lambda=1.2 的拒绝方向投影,修改 131 个张量。
推荐理由:原文给出拒绝方向投影方法与成对评测数据,读者可据此判断该去对齐版本在拒绝率与能力保留之间的实际取舍。
huihui-ai 的 Qwen3-Coder-Next-abliterated 模型现提供基于 llama.cpp b7966 的 imatrix GGUF 量化版本,涵盖 Q8_0(84.81GB)到 IQ1_M(17.19GB)共 26 种规格,其中 Q4_K_M(48.56GB)等多档被标注为推荐。
yuna1126 发布了基于 LiquidAI/LFM2.5-2.6B 的去审查版本,使用 Tema_Q-Abliterated v1.0.0(SCAPE 算法)从权重中消融拒绝方向。
推荐理由:原文给出了拒绝率、KL 散度和崩溃检查的实测数据,还说明该工具在纯 CPU 上即可完成去对齐搜索,可复现。
基于 Qwen/Qwen3.6-27B 的去审查(abliterated)版本已在 Hugging Face 上发布,采用 AWQ 量化并支持 MTP 投机解码。在单张 A800 80GB 上配合 vLLM 0.21.0、MTP 与 fp8 KV cache 可达 110+ tok/s,支持 65536 上下文长度。该模型大幅削减安全过滤,建议仅用于研究或受控环境。
BoldingBuilds 发布 BAAI AREX-2(基于 Qwen3.8 的 27B agent 微调)的去对齐 GGUF 版本,将拒绝方向从 64 个权重张量(第 8-39 块)投影移除。
推荐理由:作者给出了拒绝率、工具调用和 KL 位移的实测数据,可以据此判断这次去对齐改动到底动了什么、代价多大。
spiritfather 发布 MiMo-V2.6-Flash-MOPD-Yamz-Uncensored 的 GGUF 量化版,把 yamz-labs 的运行时去审查编辑直接烘焙进权重,使其在任意 llama.cpp 运行时无需特殊引擎即可生效。
推荐理由:原文给出了拒绝率前后对比和量化损失数据,读者可以据此判断这个去对齐版本到底去掉了多少、代价多大。
sbussiso 在 Hugging Face 发布 Llama-3.2-1B-Instruct 的 abliterated 版本,通过对 untied lm_head 权重做读出空间正交化使去拒绝编辑持久化,推理时无需 hook。
推荐理由:原文给出五组对照的拒绝率与 MMLU 损失数据,读者可以据此判断这个持久化去对齐编辑的实际代价。
huihui-ai 基于 abliteration 技术发布 Qwen/Qwen3.8-27B 的去审查版本 Huihui-Qwen3.8-27B-abliterated,无需 TransformerLens 即可移除模型拒绝行为。
Hugging Face 上架了 Beached89 发布的 abliterated 版模型仓库 Qwen3.8-27B-Q3_K_XL-abliterated,为 Q3_K_XL 量化版本。该模型目前未被任何 Inference Provider 部署,也不统计下载量,README 为空。
cvgro 基于 meta-models/Muse-Glimmer-30B 使用 Heretic v2.0.0.dev0 的 Abliteration 参数制作出去审查版 GGUF 模型。
HauhauCS 基于 Qwen3.6-35B-A3B 推出 Aggressive 无审查量化模型,0/465 拒答率,完全解锁不拒绝提示词。该模型为 MoE 架构,总参数 35B、每 token 激活约 3B,原生 262K 上下文,支持文本、图像、视频多模态。
gbuzhf 在 Hugging Face 发布 Occamy-1.0 Abliterated 的四个 Sangreal ICE 量化档位(14.51/18.47/22.52/24.53 GB),基于 SC117 的去对齐 BF16 权重,附带 Qwen-Sharp v22.5.0-arrow.3.1 聊天模板和视觉 mmproj 文件。
推荐理由:作者用同一会话的 KLD 实测把四个 ICE 档位与 SC117 同尺寸量化逐一对照,读者可按文件大小直接选档。
atlas-institute 在 Hugging Face 上发布 abliterated 版 Qwen3 14B orchestrator 模型,提供 Q4_K_M 量化的 GGUF 格式。
作者发布基于 Abliterix SOM 方法对 Qwen3.5-2B 去审查后的 Q4_K_M 量化版本,选用综合表现最优的 Trial #107,拒绝率 0.49%(2/408),KL 散度 0.2686 nats/token。
推荐理由:原文给出各拒绝率档位的 Pareto 最优解及 KL 散度数据,读者可据此比较不同去审查配方的拒绝率与知识损伤权衡。
jessedye90 发布 qwen3.8-flash-next-swift-uncensored,在 UkisAI Swift 1.5 对 Qwen3.8-Flash-Next 的 INT4 W4A16 微调权重内投影掉拒绝方向,文件布局、大小和推理速度与基座一致。
推荐理由:原文给出量化网格内消融的具体做法和 AdvBench、代码任务等前后实测对比,可据此评估去对齐的代价。
KilltheSniper 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,在已量化的 ISTA-DASLab GSQ-RCO 权重内直接移植 144 个张量(覆盖全部 48 层)实现去对齐,不重算任何 GSQ 学到的量化值,消融源为 orcarouter 的 Uncensored 版本。
推荐理由:原文给出逐张量 blake2b 校验和 Strata 实测速度对比,读者可以据此判断这种免重量化的张量移植方案损失了多少。
jessedye90 发布 qwen3.8-27b-swift-uncensored,在 UkisAI 的 Swift 1.5 对 Qwen3.8-27B 的 NVFP4/FP8 量化微调基础上,将 OrcaRouter 消融得到的拒绝方向从权重中投影移除,编辑在原量化网格内完成,文件布局、大小和推理速度与基座一致。
推荐理由:原文给出消融方向、量化网格内编辑方法和 AdvBench 拒绝率 100% 到 0% 的实测对比,可据此评估该去对齐版本的实际改动幅度。
AzynTT 在 Hugging Face 发布 Kimi K3(2.8T 参数 / 104B 激活 / 896 experts top-16)的 abliterated GGUF 量化 IQ1_S-XS,共 539.7 GiB、34 分片,将拒绝方向从写入残差流的 279 个张量中正交化移除。
推荐理由:原文给出拒绝率、过度拒绝、答非所问三率实测和完整消融方法,还如实标注样本量不足的统计局限。
zkhapo 在 Hugging Face 上传了名为 zkhapo-abliterated 的 transformers 模型。模型卡为自动生成模板,开发者、许可证、微调基础模型、训练数据等关键信息均标注“待补充”。
StillDeadcode 发布 Qwen3.8-Flash-Next 的无对齐版本,消融了原模型的拒绝方向,打包为单一 .rad 容器用于 radiance 推理引擎(AMD RDNA4、ROCm)。
推荐理由:模型卡不仅宣布去对齐,还给出与 bf16 原始权重的全词表 KL 散度和 top-1 一致率数据,可据此评估量化误差。
huihui-ai 基于 yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF 制作并发布 abliterated 去审查版 GGUF 模型,整个消融过程完全使用 llama.cpp 完成,不依赖 Transformers。
huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝回复,发布无审查版 Huihui-Qwen3.8-27B-abliterated-GGUF,仅对 22 至 52 层(0 起始索引)做消融,其余层保持原样。
orcarouter 在 Hugging Face 放出 Qwen3.8-Flash-Next 的去对齐(abliterated)GGUF 量化版本,覆盖 2-bit 到 8-bit,供 llama.cpp 运行。
推荐理由:原文给出消融后拒绝率从64-100%降到约0-3.3%、能力与基线差±2分以内的实测数据,并说明各量化的取舍。
Hugging Face 用户发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 4.05 bpw EXL3 量化版本,基于修正后的 BF16 源权重以 strength1.0 消融后量化,包含 MTP、视觉和 n-gram 表。
shefowl 发布了 Qwen3.8-Flash-Next 的混合精度 GGUF,非专家张量取自 SC117 的 IQ3_XXS 档、路由专家张量取自 Q2_0 档,逐字节复制未重新量化,权重为上游已去拒绝的 abliterated 版本。
推荐理由:作者给出了与 IQ3_XXS 和 Q2_0 档在困惑度、解码速度和内存占用上的实测对比,可据此权衡这套混合量化的取舍。
发布 Swift-Qwen3.8-27B 的 abliterated 无对齐版本,采用 orcarouter/Qwen3.8-27B-Uncensored 的单方向拒绝消融方法,从权重差异中恢复拒绝方向后投影到 Swift 的 131 个张量。
推荐理由:原文给出拒绝率与 KL 散度的前后对照数据,以及恢复拒绝方向并投影到 Swift 权重的完整方法,可复现性较强。
Hugging Face 用户发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 3.05 bpw EXL3 量化版本,基于修正后的 BF16 源权重以 strength1.0 消融后重建,包含 MTP、视觉和 n-gram 表,无需运行时消融 hook。
mradermacher 在 Hugging Face 上发布 Qwopus3.8-27B-Flash-V2-abliterated 的 GGUF 量化版本。
Hugging Face 上发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 5.05 bpw EXL3 量化版本,基于修正后的 BF16 源权重以 strength1.0 消融后量化,包含 MTP、视觉和 n-gram 表,无需运行时消融 hook。
minas2025 基于 Gemma 4 E2B 的 Heretic-abliterated 版本发布对话向微调模型,经 1,000 步 QLoRA 训练并量化为 GGUF,Q8_0 文件约 5.1 GB,可在 llama.cpp、LM Studio、KoboldCpp 等本地运行。
Pwdz-2 Abliterated 基于 GLM-5.3-Flash 架构的 320B 级稀疏 MoE 模型,通过权重空间消融移除拒绝行为,保留完整推理与指令遵循能力。
huihui-ai 基于 Qwen/Qwen3.8-27B 用 abliteration 技术制作去审查版 GGUF 模型,仅对部分层(如 22 至 52 层)做消融,MTP 与视觉部分未改动。
huihui-ai 基于 Qwen/Qwen3.5-27B 通过 abliteration 技术去除拒绝回复,发布无审查版本 Huihui-Qwen3.5-27B-abliterated,属于概念验证实现,不依赖 TransformerLens。
dealignai 团队发布 DeepSeek-V4.1-Flash 的 abliterated 无对齐版本,量化为 EXL3 2.9bpw,约 197 GiB,可在两台 DGX Spark (GB10) 上以 TP=2 部署。
推荐理由:原文给出 HarmBench 拒绝率与 MMLU 全量对比,量化了能力损失集中在伦理子集,读者可自行评估取舍。
SC117 在 Hugging Face 发布 Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,通过字节级张量移植移除拒绝方向。
同一新闻,精选展示《Qwen3.8-Flash-Next GSQ-RCO 消融版 GGUF 发布:144 个张量移植保留上游量化布局》
xannie1 在 Hugging Face 发布 Qwen3.8-27B RVN Heretic Abliterated Uncensored GGUF,在 trohrbaugh 的 heretic-ara 基础上追加两轮全权重 ARA 消融,有害提示拒绝率从 3/100 降至 0-1/100,KL 损伤从 0.0535 降到 0.0085。
推荐理由:原文给出两轮 ARA 消融后的拒绝率与 KL 前后对比数据,并附各量化的 PPL 和 MTP 实测速度,便于按硬件选文件。