minas2025 发布 Gemma-4-E2B-Conversational-Uncensored GGUF 微调模型
minas2025 基于 Gemma 4 E2B 的 Heretic-abliterated 版本发布对话向微调模型,经 1,000 步 QLoRA 训练并量化为 GGUF,Q8_0 文件约 5.1 GB,可在 llama.cpp、LM Studio、KoboldCpp 等本地运行。
新闻、仓库与研究,按时间排列。
minas2025 基于 Gemma 4 E2B 的 Heretic-abliterated 版本发布对话向微调模型,经 1,000 步 QLoRA 训练并量化为 GGUF,Q8_0 文件约 5.1 GB,可在 llama.cpp、LM Studio、KoboldCpp 等本地运行。
Pwdz-2 Abliterated 基于 GLM-5.3-Flash 架构的 320B 级稀疏 MoE 模型,通过权重空间消融移除拒绝行为,保留完整推理与指令遵循能力。
jam2778 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的 Uncensored GGUF 量化,基于原始上游权重,提供 BF16、Q8_0、Q6_K、Q4_K_M 等多档文件,Q4_K_M(4.60 GB)为推荐版本,无内置安全审查,可直接生成成人及 NSFW 图像。
huihui-ai 基于 Qwen/Qwen3.8-27B 用 abliteration 技术制作去审查版 GGUF 模型,仅对部分层(如 22 至 52 层)做消融,MTP 与视觉部分未改动。
xtonousou 在 Hugging Face 上发布 Qwen3.6-Deckard-40B-Uncensored,将 Qwen 3.6 27B 稠密扩展至 40B 参数,先经 Heretic 完全去审查,再用 Deckard/PDK 数据集和 Claude 4.6 Opus 蒸馏数据经 Unsloth 训练。
huihui-ai 基于 Qwen/Qwen3.5-27B 通过 abliteration 技术去除拒绝回复,发布无审查版本 Huihui-Qwen3.5-27B-abliterated,属于概念验证实现,不依赖 TransformerLens。
dealignai 团队发布 DeepSeek-V4.1-Flash 的 abliterated 无对齐版本,量化为 EXL3 2.9bpw,约 197 GiB,可在两台 DGX Spark (GB10) 上以 TP=2 部署。
推荐理由:原文给出 HarmBench 拒绝率与 MMLU 全量对比,量化了能力损失集中在伦理子集,读者可自行评估取舍。
SC117 在 Hugging Face 发布 Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,通过字节级张量移植移除拒绝方向。
同一新闻,精选展示《Qwen3.8-Flash-Next GSQ-RCO 消融版 GGUF 发布:144 个张量移植保留上游量化布局》
Nishalove 发布基于 Qwen3.8 27B 的无审查(去对齐)模型 Suri-Qwen-3.8-27B-Uncensored,在 AdvBench 上取得 94.04% 的分数,HarmBench ASR 为 81.33%。
xannie1 在 Hugging Face 发布 Qwen3.8-27B RVN Heretic Abliterated Uncensored GGUF,在 trohrbaugh 的 heretic-ara 基础上追加两轮全权重 ARA 消融,有害提示拒绝率从 3/100 降至 0-1/100,KL 损伤从 0.0535 降到 0.0085。
推荐理由:原文给出两轮 ARA 消融后的拒绝率与 KL 前后对比数据,并附各量化的 PPL 和 MTP 实测速度,便于按硬件选文件。
mradermacher 在 Hugging Face 上发布了 Pyrex-8B-Instruct-Uncensored 的 GGUF 静态量化版本,提供从 Q2_K(3.1GB)到 Q8_0(8.2GB)及 f16(15.3GB)等多种规格,其中 Q4_K_S 和 Q4_K_M 被标注为快速且推荐使用。加权/ imatrix 量化版本另行提供,模型页面附有量化质量对比图表和使用说明。
TechPrototyper 在 rdtand 的 PrismaQuant 6-bit 量化构建内,将 BF16 去对齐供体的权重移植进 118 个张量并按原量化网格重编码,不重新量化。
推荐理由:原文给出拒绝率前后对比、逐项验证和已知回归,读者可据此判断这种不改量化布局的去对齐做法是否值得采用。
xCloudinfo(云碩科技)发布 Granite-4.2-30B-xVITA-zhTW-Uncensored,基于台湾繁中微调版 Granite-4.2-30B-xVITA-zhTW(底座 ibm-granite/granite-4.2-30b)。
推荐理由:原文给出拒绝方向消除方法与去审查前后的拒答率和能力对照数据,读者可据此评估这个繁中去审查版本的实际代价。
mradermacher 在 Hugging Face 上发布 Pyrex-8B-Instruct-Uncensored 的 imatrix 加权 i1-GGUF 量化版本,提供从 i1-IQ1_S(2.0GB)到 i1-Q6_K(6.4GB)的完整量化列表,其中 Q4_K_M 被标注为快速且推荐,Q4_K_S 兼顾体积、速度与质量。
Hugging Face 上发布 huihui-ai abliterated 版 Ternary-Bonsai 的 NInfer 格式重打包,将去安全化的 Qwen3.8-27B 权重封装为单文件 .ninfer 容器,供 NInfer 引擎读取 t2_g128_fp16 三元表示。
drowzeys 在 Hugging Face 发布基于 zai-org/GLM-5.3 的 abliterated 量化版本 keys-GLM-5.3-EXL3-2.75BPW-Abliterated。
推荐理由:原文给出 Blackfrost 消融张量的重编码位置与 32 项拒绝率实测数据,可据此判断这个 abliterated 版本改动范围和去对齐程度。
DavidAU 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的多阶段微调去审查版 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored 的 GGUF 量化。
推荐理由:作者给出了用 Heretic ARA 方法去审查的拒绝率前后数据,并附各量化档位与 Qwen 官方模型的基准对比,可核验其宣称。
Infatoshi 在 Hugging Face 发布 dealignai/GLM-5.3-UNCENSORED-FP8 的 ExLlamaV3 EXL3 3.0bpw 量化版,总参数 753B,体积 273 GiB,含 MTP 层可用作推测草稿模型。
推荐理由:作者附上了与 FP8 源权重的 KL 散度、困惑度对比和 tau2-bench 实测,还指出 glm4_5 解析器会破坏字符串参数导致工具调用失败。
OrcaRouter 发布 OrcaSAQ-2-27B-Uncensored GGUF,将无对齐的 Qwen3.8-27B 从 54.7 GB BF16 压缩到 15.7 GB,PPL 仅 +0.80%,Top-1 agreement 94.4%,mean KLD 0.020。
推荐理由:原文给出了量化后与 BF16 基线的 PPL、Top-1 agreement 和 KLD 对照数据,可据此评估这类高压缩权重的保真程度。
abenzerps 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的 Uncensored GGUF 量化版本,提供 BF16(14.23 GB)到 Q4_0(4.15 GB)等多种量化文件,推荐 Q4_K_M(4.60 GB)以平衡体积与质量。
axi0mX 在 Hugging Face 发布 Qwen3.8-Flash-Next-Uncensored-GGUF 模型,默认量化版本为 Q5_K_XL。模型可通过 llama.cpp、Ollama、Docker Model Runner、LM Studio、Jan、Lemonade 等工具本地运行,llama.cpp 还提供带 Web UI 的 OpenAI 兼容本地服务器,也可接入 Pi、Hermes Agent、OpenClaw 等 Agent 工具使用。
AEON-7 将其无审查版 Qwen3.8-27B 量化为 OCP Microscaling 格式以适配 AMD GPU:MLP 用 MXFP4、Gated DeltaNet 投影用 MXFP6,其余保持 BF16,checkpoint 为 23.7 GB(BF16 原版 55.6 GB),支持 262,144 token 原生上下文。
SC117(0xSojalSec)在 Hugging Face 发布 Qwen3.8-Flash-Next 的 GSQ-RCO 消融版 GGUF,通过对已量化模型直接移植张量来移除拒绝方向:48 层中 144 个写入残差流的投影张量替换为 orcarouter 的消融权重,其余 1079 个张量逐字节不变。
推荐理由:原文给出逐张量 blake2b 校验和体积、速度代价核算,展示了在已量化模型上做消融移植而不重算张量的完整流程。
作者alexwkleung用Heretic制作并经llama.cpp量化的inclusionAI/Ling-3.0-tiny(8B总参/约1B激活MoE)abliterated版本,提供Q4_K_M至Q8_0共4个GGUF文件。作者用Heretic优化器未见过的44条测试提示实测,拒绝率从思考关闭43/44、开启44/44降至11/44、12/44;思考关闭下GSM8K n=100与原版同为93/100。作者强调这是针对过度拒绝的escape hatch而非无审查模型,不增加任何知识,且思考与非思考路径的拒绝均被去除;方向性消融共修改1692个张量,集中在第8至23层。
推荐理由:作者用未见过的44条测试题和GSM8K对照给出拒绝率与能力变化的实测数据,读者可以自己判断这个去对齐版本的实际效果。
Anotos 将 huihui-ai 的 abliterated(去审查)版 Liquid AI LFM2 8B-A1B 转换为 MLX 4-bit 量化模型,面向 Apple Silicon。该模型为 MoE 架构,总参数 8.3B、每 token 激活约 1.5B,文件 4.69 GB,专家路由门控保留 8 bit,需 mlx-swift-lm 3.31.4 及以上版本。模型已移除安全护栏,不内置入 Erato 应用,需手动添加,采用 LFM Open License v1.0 许可。
Dacheng-cn 基于 OrcaRouter 源模型的原始 BF16 权重重新量化出 Qwen3.8-27B-Uncensored oQ8e FP16 版本,权重约 30.92 GB,保留 MTP 的 29 个 Tensor,在 M1 Ultra 上使用 oMLX 0.7.0 正式版测试。
StillDeadcode 发布 Qwen3.8-27B Uncensored FP8 模型,移除原模型的安全对齐(abliterated refusal direction),打包为单个 .rad 容器供 radiance 推理引擎使用,文件大小 29.43 GiB。该模型合并了 z-lab/Qwen3.8-27B-DFlash2 块扩散 drafter 用于投机解码,草稿经验证后不改变输出;附带 27 块 bf16 视觉塔,支持图像和视频输入。上下文训练长度 262,144 tokens、实测 200K,在 2× Radeon AI PRO R9700 上构建测试,服务器兼容 OpenAI API。
johnonegram 在 Hugging Face 发布 Offender_3.8_27B_Abliterated,基于 medismera/Qwen3.8-27B-Surgical-Abliterated 持续微调的 27B 多模态安全推理模型,总参数 26.89B,原生上下文 262,144 tokens(256K),采用 FP8 量化,磁盘占用约 26.9 GB。
4B 参数的无审查模型 NeoHorse-1-4B-Uncensored-Zero-Refusal-GGUF 以 GGUF 格式(F16)在 Hugging Face 上线。页面提供了 llama.cpp、Ollama、Docker Model Runner、Lemonade 等多种本地运行方式的安装与启动命令,也可接入 Pi、Hermes、OpenClaw 等 Agent,或通过 llama.cpp 启动 OpenAI 兼容的本地服务器并附带 Web UI。
Hugging Face 上发布 gpt-oss-120b-Uncensored 的 MXFP4 量化版本,基于 openai/gpt-oss-120b 用 LoRA 微调,移除默认安全过滤与拒绝行为,支持生成成人内容。
vaultai 发布 Qwen3.8-27B-Uncensored-MLX,通过 abliteration(对拒绝方向做正交化)移除安全对齐,并提供 2/4/6/8-bit MLX 量化用于 Apple Silicon。4/6/8-bit 版本拒绝探针零拒绝、数值保真度 cos 0.996 至 0.9997,视觉和 262K 上下文保留;2-bit 生成严重退化仅供存档。仓库已门控,附 mlx-vlm、LM Studio 和 MTP 投机解码用法。
推荐理由:发布方给出了各精度量化的数值保真度、拒绝探针零拒绝和视觉能力实测,读者可以据此评估每个档位是否可用。
Hugging Face 用户 LMLiutenant 用 llama.cpp 制作了 abliterated(抑制拒答)版模型 wangzhang/Qwen3.6-35B-A3B-abliterated-v2 的 GGUF 量化,属非官方再分发。该模型为 MoE 架构,总参数 35B、每 token 激活约 3B(256 个专家激活 8 个),上下文长度 262144 tokens。仓库提供 IQ2_XS 到 Q8_0 共 24 种量化,并附 F16 多模态 projector,各量化均基于同一 importance matrix 计算,BF16 源模型 wikitext-2 PPL 为 6.4743。
musiccat0405 在 Hugging Face 发布 gemma-3-1b-it-heretic-extreme-uncensored-abliterated,用 Heretic v1.0.1 消融,拒绝率 3/100,KL 散度 0.33,原版 Gemma 1B-IT 拒绝率为 99/100。作者注明本次以更低拒绝率为优先目标,并给出 KL 散度更低(0.09)但拒绝率 17/100 的替代版本链接;还说明该模型不拒绝请求但部分情况需额外指令引导,并附 KoboldCpp、text-generation-webui、SillyTavern 的 smoothing_factor 等采样参数建议。
推荐理由:原文给出了 Heretic 消融前后的拒绝率与 KL 散度数据,读者可以具体对比这个去对齐版本去掉了多少、损伤多大。
SlickPulla 在 trohrbaugh/Qwen3.8-27B-heretic-ara 基础上再做两遍 ARA 消融,发布 Qwen3.8-27B RVN Heretic Abliterated Uncensored GGUF,有害提示拒绝率从 3/100 降到 0–1/100,KL 损伤从 0.0535 降到 0.0085。全部 53 个 RVN 文件内嵌官方 Qwen3.8 chat template,每个量化都附带嵌入 MTP 草稿头的孪生文件,128 token 实测平均提速约 55%,仅 IQ1_M 反而慢约 60%,IQ1_S 只提升约 4%,文档还按 8 GB 到 64 GB 显存给出了推荐文件。
vaultai 在 Hugging Face 发布 GLM-5.3-Flash 的 abliterated 4bit 量化版(oQ4e,173 GiB,35 个分片),基于 Blackfrost-Research 的去对齐 BF16 权重,面向 Apple Silicon 的 oMLX 运行时。去对齐在上游权重层完成,Blackfrost-Research 用 R1-HARMFUL-BENCH-450 测得有害提示拒绝率 1.3%(4/300),本 4bit 版仅做了抽查未系统复测。视觉塔与 MTP 草稿头均保留并经真实请求验证,M3 Ultra(256 GB)实测短上下文 DFlash2 解码最高 51.2 tok/s,附带的前缀缓存补丁把多轮长上下文 TTFT 从约 46 s 降到 0.26 s。
推荐理由:模型卡附上了上游拒绝率实测与 Apple Silicon 上的逐档解码速度和 TTFT 数据,读者可以对照判断量化后的行为和性能。
TokenTinkerer 基于 HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 发布了 TTQ 十档 GGUF 量化集,从 3.33 bpw 到 6.72 bpw,全部从上游 Q8_K_P 用自建 imatrix 重量化。每档以同一机器同一协议实测 KLD/RMS 与 llama-bench 速度,每档 KLD 均优于上游仓最接近尺寸的量化 1.26× 到 3.51×,同质量档位小 1.44 到 7.90 GiB,匹配对比下 decode 快 6% 到 19%、prefill 快 28% 到 80%。
推荐理由:作者用同一协议实测十档量化的KLD、体积与速度,并给出与上游仓位的逐项对照,读者可按显存和用途挑选合适的档位。
Hugging Face 用户 GSsmart 发布 Wan2.2 GSsmart Uncensored,一套同时适配 I2V 与 T2V 的无审查 LightX2V LoRA,免去在两类模型间反复切换。T2V 下人体准确率约 80–85%,I2V 效果取决于输入图像;叠加其他 LoRA 建议用 0.55–0.65 强度,本 LoRA 需保持接近满强度否则画面易模糊。
nyaaorick 在 Hugging Face 发布 Qwen3.8-27B-Uncensored 的 MLX 3-bit 混合精度量化版本,面向 Apple Silicon,磁盘占用 9.82 GB,平均每位权重 2.915 bit,短提示峰值内存约 10.5 GB。
dealignai 在 Hugging Face 发布 GLM-5.3-UNCENSORED-FP8,对 GLM-5.3-FP8(基于 zai-org/GLM-5.3,753B、78 层、text-only 的 glm_moe_dsa 架构)做权重级去对齐:仅修改 bf16 residual-writer 张量,FP8 专家路由不变,无微调、无 LoRA、无运行时钩子。
Nathan512 在 Hugging Face 上发布 Qwen/Qwen-Image-2.1 的 Uncensored GGUF 量化版本,提供 BF16、Q8_0、Q6_K、Q4_K_M 等 12 种格式,体积 4.00–14.23 GB,推荐兼顾体积与质量的 Q4_K_M(约 4.60 GB)。