GLM-4.7-Flash-Uncensored-MAX-GGUF 量化版发布
Hugging Face 上发布 GLM-4.7-Flash 的去审查(Heretic)GGUF 量化版,基于 30B-A3B MoE 架构,激活约 2B 参数,可在 GPU 或 CPU 上运行。量化采用 NEO 与 Code 双 Imatrix 增强,输出张量使用 16 位全精度,模型支持最高 200k 上下文(非 RoPE),推荐最低 8k-16k 上下文。
新闻、仓库与研究,按时间排列。
Hugging Face 上发布 GLM-4.7-Flash 的去审查(Heretic)GGUF 量化版,基于 30B-A3B MoE 架构,激活约 2B 参数,可在 GPU 或 CPU 上运行。量化采用 NEO 与 Code 双 Imatrix 增强,输出张量使用 16 位全精度,模型支持最高 200k 上下文(非 RoPE),推荐最低 8k-16k 上下文。
基于 Qwen/Qwen3.6-27B 的去审查(abliterated)版本已在 Hugging Face 上发布,采用 AWQ 量化并支持 MTP 投机解码。在单张 A800 80GB 上配合 vLLM 0.21.0、MTP 与 fp8 KV cache 可达 110+ tok/s,支持 65536 上下文长度。该模型大幅削减安全过滤,建议仅用于研究或受控环境。
Hugging Face 上线 Qwen/Qwen-Image-2.1 的 Uncensored GGUF 量化版本,提供 BF16、FP8、Q4_K_M 等多种格式,文件大小从 4.15 GB 到 14.23 GB 不等,推荐 Q4_K_M 以平衡体积与质量。
BoldingBuilds 发布 BAAI AREX-2(基于 Qwen3.8 的 27B agent 微调)的去对齐 GGUF 版本,将拒绝方向从 64 个权重张量(第 8-39 块)投影移除。
推荐理由:作者给出了拒绝率、工具调用和 KL 位移的实测数据,可以据此判断这次去对齐改动到底动了什么、代价多大。
Nylonek 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的 Uncensored GGUF 量化版本,提供 BF16、FP8、Q8_0、Q6_K、Q4_K_M 等多种格式,文件大小从 4.15 GB 到 14.23 GB 不等,推荐兼顾体积与质量的 Q4_K_M。
Brunobkr 在 Hugging Face 发布 OFFFELLIA_Nemotron-3.5-Lightning-30B-A3B-Heretic-Uncensored 的 GGUF 版本。
spiritfather 发布 MiMo-V2.6-Flash-MOPD-Yamz-Uncensored 的 GGUF 量化版,把 yamz-labs 的运行时去审查编辑直接烘焙进权重,使其在任意 llama.cpp 运行时无需特殊引擎即可生效。
推荐理由:原文给出了拒绝率前后对比和量化损失数据,读者可以据此判断这个去对齐版本到底去掉了多少、代价多大。
sbussiso 在 Hugging Face 发布 Llama-3.2-1B-Instruct 的 abliterated 版本,通过对 untied lm_head 权重做读出空间正交化使去拒绝编辑持久化,推理时无需 hook。
推荐理由:原文给出五组对照的拒绝率与 MMLU 损失数据,读者可以据此判断这个持久化去对齐编辑的实际代价。
slider-meister-pub 在 Hugging Face 发布 Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated 的 IQ3_S GGUF 量化,总大小 83.74 GB(约 3.79 bpw),补上上游缺失的 IQ3_S 档位。
推荐理由:原文给出量化构建细节和消融前后拒绝率对比,硬拒绝从98/100降到0,读者可据此评估这个低比特去对齐版本。
huihui-ai 基于 abliteration 技术发布 Qwen/Qwen3.8-27B 的去审查版本 Huihui-Qwen3.8-27B-abliterated,无需 TransformerLens 即可移除模型拒绝行为。
minas2025 基于 Gemma 4 E2B(约 4.6B)的 uncensored 版本微调出 Coder-Gemma-4-E2B-Uncensored,专注 Python 与 React/TypeScript/HTML/CSS 前端开发,采用 QLoRA 4-bit 训练,上下文 2048,提供 Q8_0 GGUF(约 5.0 GB)。
cvgro 基于 meta-models/Muse-Glimmer-30B 使用 Heretic v2.0.0.dev0 的 Abliteration 参数制作出去审查版 GGUF 模型。
社区用户将 thirdeyeai/Qwen2.5-1.5B-Instruct-uncensored 转换为 LiteRT-LM(.litertlm)格式,可在 Android 与桌面端通过 Google AI Edge LiteRT-LM / MediaPipe 端侧运行。
HauhauCS 发布的 Qwen3.6-35B-A3B-Uncensored 无审查模型推出 Wasserstein Genesis-V2 更新 GGUF 量化版本,支持 MTP,无需重训练即通过数值修复 3 个 ssm_conv1d 层的尺度失配,W1 指标下降约 80%,500 个权重张量中 497 个通过全部检测。
HauhauCS 基于 Qwen3.6-35B-A3B 推出 Aggressive 无审查量化模型,0/465 拒答率,完全解锁不拒绝提示词。该模型为 MoE 架构,总参数 35B、每 token 激活约 3B,原生 262K 上下文,支持文本、图像、视频多模态。
gbuzhf 在 Hugging Face 发布 Occamy-1.0 Abliterated 的四个 Sangreal ICE 量化档位(14.51/18.47/22.52/24.53 GB),基于 SC117 的去对齐 BF16 权重,附带 Qwen-Sharp v22.5.0-arrow.3.1 聊天模板和视觉 mmproj 文件。
推荐理由:作者用同一会话的 KLD 实测把四个 ICE 档位与 SC117 同尺寸量化逐一对照,读者可按文件大小直接选档。
Hugging Face 用户 Shihan420 发布 Qwen/Qwen-Image-2.1 的 Uncensored GGUF 量化版本,提供 BF16、Q8_0、Q6_K、Q4_K_M 等多种格式,其中 Q4_K_M(4.60 GB)被推荐为体积与质量的最佳平衡。
作者在 Hugging Face 发布了基于 Qwen3.8-27B 的多阶段微调 GGUF 量化版本,用 Heretic v1.2.0 加 ARA 方法去审查,Stage 1 拒绝率从原版 99/100 降到 0/100(KL 散度 0.0535),Stage 2 为 11/100(KL 0.0025)。
Chuncho32 在 Hugging Face 上将 DavidAU/Mistral-Nemo-2407-12B-Thinking-Claude-Gemini-GPT5.2-Uncensored-HERETIC 转换为 Q8_0 GGUF 格式,转换通过 llama.cpp 的 ggml.ai GGUF-my-repo 空间完成。
Humberto16 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段微调 GGUF 量化版,8bit ARC-C 达 0.735、ARC-E 0.882,4bit ARC-C 0.719,均高于原版 Qwen3.8-27B(8bit ARC-C 0.591)。
同一新闻,精选展示《TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版,ARC-C 达 735》
作者发布基于 Abliterix SOM 方法对 Qwen3.5-2B 去审查后的 Q4_K_M 量化版本,选用综合表现最优的 Trial #107,拒绝率 0.49%(2/408),KL 散度 0.2686 nats/token。
推荐理由:原文给出各拒绝率档位的 Pareto 最优解及 KL 散度数据,读者可据此比较不同去审查配方的拒绝率与知识损伤权衡。
jessedye90 发布 qwen3.8-flash-next-swift-uncensored,在 UkisAI Swift 1.5 对 Qwen3.8-Flash-Next 的 INT4 W4A16 微调权重内投影掉拒绝方向,文件布局、大小和推理速度与基座一致。
推荐理由:原文给出量化网格内消融的具体做法和 AdvBench、代码任务等前后实测对比,可据此评估去对齐的代价。
KilltheSniper 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,在已量化的 ISTA-DASLab GSQ-RCO 权重内直接移植 144 个张量(覆盖全部 48 层)实现去对齐,不重算任何 GSQ 学到的量化值,消融源为 orcarouter 的 Uncensored 版本。
推荐理由:原文给出逐张量 blake2b 校验和 Strata 实测速度对比,读者可以据此判断这种免重量化的张量移植方案损失了多少。
jessedye90 发布 qwen3.8-27b-swift-uncensored,在 UkisAI 的 Swift 1.5 对 Qwen3.8-27B 的 NVFP4/FP8 量化微调基础上,将 OrcaRouter 消融得到的拒绝方向从权重中投影移除,编辑在原量化网格内完成,文件布局、大小和推理速度与基座一致。
推荐理由:原文给出消融方向、量化网格内编辑方法和 AdvBench 拒绝率 100% 到 0% 的实测对比,可据此评估该去对齐版本的实际改动幅度。
AzynTT 在 Hugging Face 发布 Kimi K3(2.8T 参数 / 104B 激活 / 896 experts top-16)的 abliterated GGUF 量化 IQ1_S-XS,共 539.7 GiB、34 分片,将拒绝方向从写入残差流的 279 个张量中正交化移除。
推荐理由:原文给出拒绝率、过度拒绝、答非所问三率实测和完整消融方法,还如实标注样本量不足的统计局限。
DarkRomeo88 在 Hugging Face 发布面向 ComfyUI 重打包的 Qwen3.5-9B-UNCENSORED-Heretic 去审查模型文件,提供 INT8_convrot、W4A8、W6A8 三种版本,需放入 ComfyUI/models/text_encoders/ 目录,已在 ComfyUI v0.38+ 上测试可用。
StillDeadcode 发布 Qwen3.8-Flash-Next 的无对齐版本,消融了原模型的拒绝方向,打包为单一 .rad 容器用于 radiance 推理引擎(AMD RDNA4、ROCm)。
推荐理由:模型卡不仅宣布去对齐,还给出与 bf16 原始权重的全词表 KL 散度和 top-1 一致率数据,可据此评估量化误差。
huihui-ai 基于 yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF 制作并发布 abliterated 去审查版 GGUF 模型,整个消融过程完全使用 llama.cpp 完成,不依赖 Transformers。
huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝回复,发布无审查版 Huihui-Qwen3.8-27B-abliterated-GGUF,仅对 22 至 52 层(0 起始索引)做消融,其余层保持原样。
orcarouter 在 Hugging Face 放出 Qwen3.8-Flash-Next 的去对齐(abliterated)GGUF 量化版本,覆盖 2-bit 到 8-bit,供 llama.cpp 运行。
推荐理由:原文给出消融后拒绝率从64-100%降到约0-3.3%、能力与基线差±2分以内的实测数据,并说明各量化的取舍。
Hugging Face 用户 yomie4343 发布 Qwen3.8-Flash-Next-Uncensored 的 MLX Sushi 混合 3/4/8bit(group size 64)加 BF16 SSD Ngram 仓库,全部 115 个文件经哈希校验完成上传,总大小约 156.93GiB,其中 ngram_table.bin 单文件 102.4GB。
burningfeet 在 Hugging Face 发布 Qwen3.6-35B-A3B-Uncensored-Genesis-Final 的 SafeTensors/BF16 重建版,由 MarMix 从 Q8_K_P GGUF 转换而来,非原始无损 BF16 权重,缺失的 vision/MTP 张量复制自 Qwen/Qwen3.6-35B-A3B。
OS-Software 发布 Prism ML 的 Ternary-Bonsai-2-27B 的去对齐版本 Ternary-Bonsai-2-27B-Uncensored-Heretic-v2-GGUF,通过在三元权重中烘焙 OT-Ridge LoRA 实现去对齐,是 v1 的继任版本。
推荐理由:作者给出了v1与v2的拒绝率和MMLU、HumanEval能力损失对比,可据此评估这版去对齐的改善程度与代价。
HauhauCS 基于 Qwen3.5-4B 推出去审查的 Aggressive 变体,在 0/465 拒答测试下完全去除拒绝回复且不损失原始能力,提供 BF16(7.9 GB)至 Q4_K_M(2.6 GB)多种 GGUF 量化。
Pwdz-1 Uncensored 是基于 GLM-5.3-Flash 架构的 320B 级稀疏 MoE 多模态模型,原生视觉塔支持图文输入,上下文窗口达 1,048,576 token,经无拒绝微调可直答不回避。
Hugging Face 用户发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 4.05 bpw EXL3 量化版本,基于修正后的 BF16 源权重以 strength1.0 消融后量化,包含 MTP、视觉和 n-gram 表。
MarMix 在 Hugging Face 上架 Qwen3.6-35B-A3B-Uncensored-Genesis-Final-Safetensors-MLX-4bit,为 35B 参数模型的 MLX 4bit 量化版本,张量类型为 U32、BF16 与 F32。该模型目前未部署到任何 Inference Provider,月下载量为 12。
发布 Swift-Qwen3.8-27B 的 abliterated 无对齐版本,采用 orcarouter/Qwen3.8-27B-Uncensored 的单方向拒绝消融方法,从权重差异中恢复拒绝方向后投影到 Swift 的 131 个张量。
推荐理由:原文给出拒绝率与 KL 散度的前后对照数据,以及恢复拒绝方向并投影到 Swift 权重的完整方法,可复现性较强。
Hugging Face 用户发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 3.05 bpw EXL3 量化版本,基于修正后的 BF16 源权重以 strength1.0 消融后重建,包含 MTP、视觉和 n-gram 表,无需运行时消融 hook。
Hugging Face 上发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 5.05 bpw EXL3 量化版本,基于修正后的 BF16 源权重以 strength1.0 消融后量化,包含 MTP、视觉和 n-gram 表,无需运行时消融 hook。