huihui-ai 发布 Huihui-gemma-4-12B-agentic-fable5-abliterated-GGUF 去审查版模型
huihui-ai 基于 yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF 制作并发布 abliterated 去审查版 GGUF 模型,整个消融过程完全使用 llama.cpp 完成,不依赖 Transformers。
新闻、仓库与研究,按时间排列。
huihui-ai 基于 yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF 制作并发布 abliterated 去审查版 GGUF 模型,整个消融过程完全使用 llama.cpp 完成,不依赖 Transformers。
huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝回复,发布无审查版 Huihui-Qwen3.8-27B-abliterated-GGUF,仅对 22 至 52 层(0 起始索引)做消融,其余层保持原样。
orcarouter 在 Hugging Face 放出 Qwen3.8-Flash-Next 的去对齐(abliterated)GGUF 量化版本,覆盖 2-bit 到 8-bit,供 llama.cpp 运行。
推荐理由:原文给出消融后拒绝率从64-100%降到约0-3.3%、能力与基线差±2分以内的实测数据,并说明各量化的取舍。
Hugging Face 用户 yomie4343 发布 Qwen3.8-Flash-Next-Uncensored 的 MLX Sushi 混合 3/4/8bit(group size 64)加 BF16 SSD Ngram 仓库,全部 115 个文件经哈希校验完成上传,总大小约 156.93GiB,其中 ngram_table.bin 单文件 102.4GB。
GitHub 用户 jianqianggu 开源的 llm 仓库提供 Cloudflare Quick Tunnel 实时端点,用于访问 Ollama、LiteLLM Proxy 和 Unsloth Studio。仓库包含 endpoints.json、llm_observability.py 及 status.html 等文件,当前无 star 与 fork。
burningfeet 在 Hugging Face 发布 Qwen3.6-35B-A3B-Uncensored-Genesis-Final 的 SafeTensors/BF16 重建版,由 MarMix 从 Q8_K_P GGUF 转换而来,非原始无损 BF16 权重,缺失的 vision/MTP 张量复制自 Qwen/Qwen3.6-35B-A3B。
OS-Software 发布 Prism ML 的 Ternary-Bonsai-2-27B 的去对齐版本 Ternary-Bonsai-2-27B-Uncensored-Heretic-v2-GGUF,通过在三元权重中烘焙 OT-Ridge LoRA 实现去对齐,是 v1 的继任版本。
推荐理由:作者给出了v1与v2的拒绝率和MMLU、HumanEval能力损失对比,可据此评估这版去对齐的改善程度与代价。
HauhauCS 基于 Qwen3.5-4B 推出去审查的 Aggressive 变体,在 0/465 拒答测试下完全去除拒绝回复且不损失原始能力,提供 BF16(7.9 GB)至 Q4_K_M(2.6 GB)多种 GGUF 量化。
Pwdz-1 Uncensored 是基于 GLM-5.3-Flash 架构的 320B 级稀疏 MoE 多模态模型,原生视觉塔支持图文输入,上下文窗口达 1,048,576 token,经无拒绝微调可直答不回避。
Hugging Face 用户发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 4.05 bpw EXL3 量化版本,基于修正后的 BF16 源权重以 strength1.0 消融后量化,包含 MTP、视觉和 n-gram 表。
MarMix 在 Hugging Face 上架 Qwen3.6-35B-A3B-Uncensored-Genesis-Final-Safetensors-MLX-4bit,为 35B 参数模型的 MLX 4bit 量化版本,张量类型为 U32、BF16 与 F32。该模型目前未部署到任何 Inference Provider,月下载量为 12。
发布 Swift-Qwen3.8-27B 的 abliterated 无对齐版本,采用 orcarouter/Qwen3.8-27B-Uncensored 的单方向拒绝消融方法,从权重差异中恢复拒绝方向后投影到 Swift 的 131 个张量。
推荐理由:原文给出拒绝率与 KL 散度的前后对照数据,以及恢复拒绝方向并投影到 Swift 权重的完整方法,可复现性较强。
Hugging Face 用户发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 3.05 bpw EXL3 量化版本,基于修正后的 BF16 源权重以 strength1.0 消融后重建,包含 MTP、视觉和 n-gram 表,无需运行时消融 hook。
Hugging Face 上发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 5.05 bpw EXL3 量化版本,基于修正后的 BF16 源权重以 strength1.0 消融后量化,包含 MTP、视觉和 n-gram 表,无需运行时消融 hook。
minas2025 基于 Gemma 4 E2B 的 Heretic-abliterated 版本发布对话向微调模型,经 1,000 步 QLoRA 训练并量化为 GGUF,Q8_0 文件约 5.1 GB,可在 llama.cpp、LM Studio、KoboldCpp 等本地运行。
Pwdz-2 Abliterated 基于 GLM-5.3-Flash 架构的 320B 级稀疏 MoE 模型,通过权重空间消融移除拒绝行为,保留完整推理与指令遵循能力。
jam2778 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的 Uncensored GGUF 量化,基于原始上游权重,提供 BF16、Q8_0、Q6_K、Q4_K_M 等多档文件,Q4_K_M(4.60 GB)为推荐版本,无内置安全审查,可直接生成成人及 NSFW 图像。
huihui-ai 基于 Qwen/Qwen3.8-27B 用 abliteration 技术制作去审查版 GGUF 模型,仅对部分层(如 22 至 52 层)做消融,MTP 与视觉部分未改动。
xtonousou 在 Hugging Face 上发布 Qwen3.6-Deckard-40B-Uncensored,将 Qwen 3.6 27B 稠密扩展至 40B 参数,先经 Heretic 完全去审查,再用 Deckard/PDK 数据集和 Claude 4.6 Opus 蒸馏数据经 Unsloth 训练。
huihui-ai 基于 Qwen/Qwen3.5-27B 通过 abliteration 技术去除拒绝回复,发布无审查版本 Huihui-Qwen3.5-27B-abliterated,属于概念验证实现,不依赖 TransformerLens。
dealignai 团队发布 DeepSeek-V4.1-Flash 的 abliterated 无对齐版本,量化为 EXL3 2.9bpw,约 197 GiB,可在两台 DGX Spark (GB10) 上以 TP=2 部署。
推荐理由:原文给出 HarmBench 拒绝率与 MMLU 全量对比,量化了能力损失集中在伦理子集,读者可自行评估取舍。
SC117 在 Hugging Face 发布 Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,通过字节级张量移植移除拒绝方向。
同一新闻,精选展示《Qwen3.8-Flash-Next GSQ-RCO 消融版 GGUF 发布:144 个张量移植保留上游量化布局》
Nishalove 发布基于 Qwen3.8 27B 的无审查(去对齐)模型 Suri-Qwen-3.8-27B-Uncensored,在 AdvBench 上取得 94.04% 的分数,HarmBench ASR 为 81.33%。
xannie1 在 Hugging Face 发布 Qwen3.8-27B RVN Heretic Abliterated Uncensored GGUF,在 trohrbaugh 的 heretic-ara 基础上追加两轮全权重 ARA 消融,有害提示拒绝率从 3/100 降至 0-1/100,KL 损伤从 0.0535 降到 0.0085。
推荐理由:原文给出两轮 ARA 消融后的拒绝率与 KL 前后对比数据,并附各量化的 PPL 和 MTP 实测速度,便于按硬件选文件。
mradermacher 在 Hugging Face 上发布了 Pyrex-8B-Instruct-Uncensored 的 GGUF 静态量化版本,提供从 Q2_K(3.1GB)到 Q8_0(8.2GB)及 f16(15.3GB)等多种规格,其中 Q4_K_S 和 Q4_K_M 被标注为快速且推荐使用。加权/ imatrix 量化版本另行提供,模型页面附有量化质量对比图表和使用说明。
TechPrototyper 在 rdtand 的 PrismaQuant 6-bit 量化构建内,将 BF16 去对齐供体的权重移植进 118 个张量并按原量化网格重编码,不重新量化。
推荐理由:原文给出拒绝率前后对比、逐项验证和已知回归,读者可据此判断这种不改量化布局的去对齐做法是否值得采用。
xCloudinfo(云碩科技)发布 Granite-4.2-30B-xVITA-zhTW-Uncensored,基于台湾繁中微调版 Granite-4.2-30B-xVITA-zhTW(底座 ibm-granite/granite-4.2-30b)。
推荐理由:原文给出拒绝方向消除方法与去审查前后的拒答率和能力对照数据,读者可据此评估这个繁中去审查版本的实际代价。
mradermacher 在 Hugging Face 上发布 Pyrex-8B-Instruct-Uncensored 的 imatrix 加权 i1-GGUF 量化版本,提供从 i1-IQ1_S(2.0GB)到 i1-Q6_K(6.4GB)的完整量化列表,其中 Q4_K_M 被标注为快速且推荐,Q4_K_S 兼顾体积、速度与质量。
Hugging Face 上发布 huihui-ai abliterated 版 Ternary-Bonsai 的 NInfer 格式重打包,将去安全化的 Qwen3.8-27B 权重封装为单文件 .ninfer 容器,供 NInfer 引擎读取 t2_g128_fp16 三元表示。
drowzeys 在 Hugging Face 发布基于 zai-org/GLM-5.3 的 abliterated 量化版本 keys-GLM-5.3-EXL3-2.75BPW-Abliterated。
推荐理由:原文给出 Blackfrost 消融张量的重编码位置与 32 项拒绝率实测数据,可据此判断这个 abliterated 版本改动范围和去对齐程度。
DavidAU 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的多阶段微调去审查版 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored 的 GGUF 量化。
推荐理由:作者给出了用 Heretic ARA 方法去审查的拒绝率前后数据,并附各量化档位与 Qwen 官方模型的基准对比,可核验其宣称。
Infatoshi 在 Hugging Face 发布 dealignai/GLM-5.3-UNCENSORED-FP8 的 ExLlamaV3 EXL3 3.0bpw 量化版,总参数 753B,体积 273 GiB,含 MTP 层可用作推测草稿模型。
推荐理由:作者附上了与 FP8 源权重的 KL 散度、困惑度对比和 tau2-bench 实测,还指出 glm4_5 解析器会破坏字符串参数导致工具调用失败。
OrcaRouter 发布 OrcaSAQ-2-27B-Uncensored GGUF,将无对齐的 Qwen3.8-27B 从 54.7 GB BF16 压缩到 15.7 GB,PPL 仅 +0.80%,Top-1 agreement 94.4%,mean KLD 0.020。
推荐理由:原文给出了量化后与 BF16 基线的 PPL、Top-1 agreement 和 KLD 对照数据,可据此评估这类高压缩权重的保真程度。
abenzerps 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的 Uncensored GGUF 量化版本,提供 BF16(14.23 GB)到 Q4_0(4.15 GB)等多种量化文件,推荐 Q4_K_M(4.60 GB)以平衡体积与质量。
Reddit 用户发现 strata-swift-iq3_xxs 在清理冗余代码的子任务中,推理过程随机插入李光耀的百科式介绍等完全无关信息。该用户此前在 5070ti 上使用 Qwen3.8-27b-iq4xs,称 strata-swift-iq3_xxs 带来约 2~3x 性能提升。帖子询问 LLM Psychopathology 未来是否会成为研究方向。
axi0mX 在 Hugging Face 发布 Qwen3.8-Flash-Next-Uncensored-GGUF 模型,默认量化版本为 Q5_K_XL。模型可通过 llama.cpp、Ollama、Docker Model Runner、LM Studio、Jan、Lemonade 等工具本地运行,llama.cpp 还提供带 Web UI 的 OpenAI 兼容本地服务器,也可接入 Pi、Hermes Agent、OpenClaw 等 Agent 工具使用。
AEON-7 将其无审查版 Qwen3.8-27B 量化为 OCP Microscaling 格式以适配 AMD GPU:MLP 用 MXFP4、Gated DeltaNet 投影用 MXFP6,其余保持 BF16,checkpoint 为 23.7 GB(BF16 原版 55.6 GB),支持 262,144 token 原生上下文。
SC117(0xSojalSec)在 Hugging Face 发布 Qwen3.8-Flash-Next 的 GSQ-RCO 消融版 GGUF,通过对已量化模型直接移植张量来移除拒绝方向:48 层中 144 个写入残差流的投影张量替换为 orcarouter 的消融权重,其余 1079 个张量逐字节不变。
推荐理由:原文给出逐张量 blake2b 校验和体积、速度代价核算,展示了在已量化模型上做消融移植而不重算张量的完整流程。
作者alexwkleung用Heretic制作并经llama.cpp量化的inclusionAI/Ling-3.0-tiny(8B总参/约1B激活MoE)abliterated版本,提供Q4_K_M至Q8_0共4个GGUF文件。作者用Heretic优化器未见过的44条测试提示实测,拒绝率从思考关闭43/44、开启44/44降至11/44、12/44;思考关闭下GSM8K n=100与原版同为93/100。作者强调这是针对过度拒绝的escape hatch而非无审查模型,不增加任何知识,且思考与非思考路径的拒绝均被去除;方向性消融共修改1692个张量,集中在第8至23层。
推荐理由:作者用未见过的44条测试题和GSM8K对照给出拒绝率与能力变化的实测数据,读者可以自己判断这个去对齐版本的实际效果。
Anotos 将 huihui-ai 的 abliterated(去审查)版 Liquid AI LFM2 8B-A1B 转换为 MLX 4-bit 量化模型,面向 Apple Silicon。该模型为 MoE 架构,总参数 8.3B、每 token 激活约 1.5B,文件 4.69 GB,专家路由门控保留 8 bit,需 mlx-swift-lm 3.31.4 及以上版本。模型已移除安全护栏,不内置入 Erato 应用,需手动添加,采用 LFM Open License v1.0 许可。