Dolphin3.0-Llama3.1-8B-abliterated GGUF 版本上架 Hugging Face
Testprofile1 发布的 Dolphin3.0-Llama3.1-8B-abliterated 现已提供 GGUF 格式文件,使用 Unsloth 完成转换。可用文件包括 F16 量化版本,支持通过 llama-cli 或 llama-mtmd-cli 加载运行。
新闻、仓库与研究,按时间排列。
Testprofile1 发布的 Dolphin3.0-Llama3.1-8B-abliterated 现已提供 GGUF 格式文件,使用 Unsloth 完成转换。可用文件包括 F16 量化版本,支持通过 llama-cli 或 llama-mtmd-cli 加载运行。
MoonMath.ai 发布 MoonMath-ai/GLM-5.3-Uncensored-FP8(Dolly2),通过修改 GLM-5.3 中 21 层的 29 个模块实现 abliteration,无需重训练。在网络安全拒绝测试集上应答率 83.1%,高于公开 abliterated 版的 67.3%;IFEval 91.0 对 39.0,MMLU-Pro 89.0 对 84.0,AIME 2025 73.3 对 63.3,且后者出现 67 次循环退化而 MoonMath 为 0。
推荐理由:原文给出 abliteration 的具体模块改法和拒绝率与质量基准对照,还报告了同类公开模型 53% 循环退化的问题,便于判断各版本取舍。
AtomicChat 在 Hugging Face 发布 FLUX 3 Image Klein 文本编码器(Qwen3-VL-4B-Instruct)的去对齐 GGUF 版,将拒绝方向从权重中投影消除,英文有害请求拒绝率从 79% 降到 0%,俄语从 32% 降到 0%,MMLU 从 71.1% 到 71.2%。提供 BF16 至 Q4_K 共四档量化,可作为 stable-diffusion.cpp 的 --llm 直接使用;实测显示图像内容变化极小(LPIPS 0.066),并附与 webmp3 Sakura、pottokao Heretic 等同类去对齐编码器的 KLD、拒绝率和 MMLU 对比。方法遵循 Arditi et al. 2024 的单一拒绝方向研究,ComfyUI 暂不兼容该编码器。
推荐理由:原文给出了拒绝方向消融的完整方法和前后拒绝率数据,还与多个同类去对齐编码器做了量化对比。
abliterated 版模型 yuanyeyuanye/llm-qwen3.8-flash-next-abliterated-iq4xs(UD-IQ4_XS 量化)现可通过 llama.cpp 加载,支持 llama serve 启动兼容 OpenAI 的本地服务器与 llama cli 终端推理。模型也可经 Ollama、Docker、Lemonade 拉取运行,并能接入 Pi、Hermes、OpenClaw 等工具,覆盖 macOS、Linux 与 Windows 平台。
huihui-ai 基于 yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2 制作 abliterated 去审查版本,在不使用 TransformerLens 的情况下移除模型拒绝行为,属于概念验证实现。该模型安全过滤大幅减弱,可能生成敏感或不当内容,官方建议仅用于研究、测试或受控环境,避免直接投入生产或面向公众的商业应用。
0xSojalSec 在 Hugging Face 发布 Huihui-GLM-5.3-Flash-abliterated,支持 image-text-to-text 任务,提供 UD-Q4_K_XL 量化版本。页面给出 Transformers pipeline、llama.cpp、vLLM、SGLang、Ollama、Docker 等多种部署方式的完整命令,可通过 OpenAI 兼容 API 本地运行该模型。
l666A 基于 Qwen/Qwen-Image-2.1 上游权重发布 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式用于本地图像生成,Q4_K_M(4.60 GB)为推荐的 GGUF 量化方案。该版本不含内置安全检查器,可直接生成成人、NSFW 及敏感图像,支持 ComfyUI 与 ComfyUI-GGUF,文本编码器卸载到系统内存可节省 9–17 GB 显存。
huihui-ai 发布基于 Qwen/Qwen3.8-27B 的 abliterated 去审查 GGUF 版本,通过 abliteration 技术移除模型拒绝回答的行为,仅消融部分层(如第 22 至 52 层,0 起始索引),MTP 与视觉部分未改动。提供 Q2_K_L 至 Q8_0_L 等多种量化,其中需消融的权重已转为 Q8_0 或 BF16 以提升回复质量,支持 262144 上下文长度,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行。模型安全过滤大幅降低,建议用于研究测试而非生产环境。
R0U5 用 Lethe 正交化消融方法放出 Qwen/Qwen3.5-9B 的永久无对齐版本权重,拒绝率从 3.1% 降到 0.0%,KL 散度 0.009。方法对所有 32 层共 64 个残差写入投影做消融,bf16 权重约 18 GB,Apache-2.0 协议,并附 GGUF 转换与量化命令,q8_0 约 9 GB、q4_k_m 约 5.5 GB。
推荐理由:原文给出拒绝率前后对比、KL 散度和 64 个矩阵的消融范围,去对齐程度与能力损失都有数据可查。
dealignai 基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone、8B/16B 激活)发布了权重级消融的无对齐 FP8 版本 DeepSeek-V4.1-Flash-UNCENSORED-FP8,无需自定义 model.py 或运行时钩子。HarmBench-320 实测显示 base 模型 effort=off 时 ASR 为 42.81%、effort=max 时仅 1.56%,消融版在两档下均 100% 回答且零拒绝;MMLU-14k 从 86.96% 降至 82.74%(剔除伦理类后约 -1.1 pp)。
同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》
dealinai 基于 LibertAI 的 EXL3 2.9bpw 量化包(388 GB)发布 DeepSeek-V4.1-Flash-1017 无对齐版本,移除拒绝行为,支持 6 种语言、131K 上下文、思考模式开关,保留视觉权重、MTP 头和 n-gram 表。实测 MMLU-500 从基线 67.40% 降至 63.20%(−4.20pp),HarmBench-320 聊天与思考模式合规率均 100%,多轮对抗测试 0/5 漂移回拒绝。在 RTX PRO 6000 上经 exllamav3-anemone + TabbyAPI 验证约 68 tok/s 解码、1105 tok/s 预填充,并提醒低比特重量化可能使合规回退,建议在目标精度上重跑 abliteration 流程。
同一新闻,精选展示《dealignai 发布 DeepSeek-V4.1-Flash-1017 无对齐 EXL3 2.9bpw 量化包》
huihui-ai 基于 Qwen/Qwen3-8B 通过 abliteration 技术制作出去审查版本 Huihui-Qwen3-8B-abliterated-v2,采用新的更快消融方法并修复了上一版问题,还调整了 0 层以消除乱码。该模型可在 Hugging Face 用 transformers 加载,Ollama 端可用 huihui_ai/qwen3-abliterated:8b-v2 直接运行,并通过 /set think 和 /set nothink 切换思考模式。
RecursiveSI 的 Flint 40B-A2.5B 去对齐版本发布,用 abliterix 从 attention、共享与路由专家投影中移除拒绝方向,Optuna 在 100 条 MITRE 提示词上选强度。保留的 MITRE 拒绝率从 15% 降至 0%(n=100,Q8_0),无害提示词 KL 散度 0.0146 nats/token,HumanEval+、MBPP+、GSM8K、MMLU-Pro、CyberMetric、WMDP-cyber 无显著下降,pp512/tg128 速度变化在 3% 以内。
推荐理由:原文给出消融方法与拒绝率前后对照,MITRE 拒绝从 15% 降到 0% 且各基准无显著下降,便于评估该去对齐版本的取舍。
mr-sus 发布 Minecraftism 4B Uncensored(safetensors),一个基于 huihui-ai/Huihui-Qwen3-4B-Instruct-2507-abliterated 的 4.02B 参数 Minecraft 玩家机器人模型,可输出 JSON 行动指令并回答游戏问题,也能兼作日常助手。模型经去审查处理,16-bit 权重约 8.04 GB、需约 10 GB 显存;held-out 评测中 100.0% 输出有效 JSON、89.6% 行动正确,采用 PolyForm Noncommercial 1.0.0 许可,可配合 transformers、vLLM 使用,GGUF 版适配 Ollama、llama.cpp 和 LM Studio。
codero-sus 在 Hugging Face 发布 Minecraftism 4B Uncensored 的 GGUF 量化版本,共 5 档(Q3_K_M 2.08 GB 至 Q8_0 4.28 GB,Q4_K_M 默认 2.5 GB),可用 Ollama 或 llama.cpp 运行。该模型 4.02B 参数,基于 huihui-ai/Huihui-Qwen3-4B-Instruct-2507-abliterated 微调,是 Minecraft 玩家机器人 PyMC Bot 的"大脑",能输出 JSON 行动指令,held-out 评测中 100.0% 输出合法 JSON、89.6% 动作正确。微调采用 PolyForm Noncommercial 1.0.0 许可,仅限个人非商业使用。
Hugging Face 用户发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化模型仓库,提供 GGUF、Safetensors 和 MLX 格式,文件大小从 4.00 GB(MLX 4-bit)到 14.23 GB(BF16)不等,用于本地图像生成。该版本内置无安全检查器或内容过滤,可直接生成成人及 NSFW 图像;推荐 GGUF 使用 Q4_K_M(4.60 GB),MLX 格式针对 Apple Silicon 优化,需配合 ComfyUI 与配套的 qwen3vl_8b 文本编码器和 VAE 文件使用。
10exdev 发布 DeepSeek-V4.1-Flash-1017 去对齐(abliterated)版本的 GGUF 量化构建,提供 235.8 GB 的 Mix-256G 与 114.0 GB 的 Mix-128G 两种混合精度档位。拒绝率加权均值从基座的 0.874 降到 0.074,MMLU 保持 0.91 左右;需 llama.cpp PR #30817 才能加载,Engram 表存于 SSD。
同一新闻,精选展示《DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布,763B MoE 最低 235.8 GB 内存可跑》
virtualdmns 发布基于 HuggingFaceTB/SmolLM3-3B 的 abliterated 版本 SmolLM3-3B-Heretic-Uncensored,用 Heretic 定向消融配合 Optuna TPE 参数搜索,100 次试验中选出 Pareto 前沿上的最优权衡。独立复测显示拒绝率从基线的 82/100 降到 3/100,KL 散度为 0.0684;架构、tokenizer 和聊天模板不变,保留 /think 与 /no_think 模式,仅权重不同。lm-eval 基准显示多数指标变化在 ±2 点内;ggsm8k strict-match 上升 42.0 点而 flexible-extract 下降 8.0 点,作者提示这是答案格式偏移,应视为混合结果。
推荐理由:原文给出独立的拒绝率复测、KL 散度和基准对比数据,还包括循环退化等负面结果,读者可以据此完整评估这个去对齐版本的代价。
Hugging Face 上发布 Flint-40B-A2.5B 的 abliterated 去审查版 FP8 量化模型,采用 LLM Compressor FP8_DYNAMIC 格式,保留 295 个 BF16 保护张量,并用 98 个校准 BF16 KV scale 覆盖全部 49 个注意力层。校准基于 HuggingFaceH4/ultrachat_200k 数据集 train_sft 前 512 行样本(共 543,281 token),上游 abliteration 已减少拒答行为,输出仍应视为不可信。该模型仅供研究用途,GPU 推理与 benchmark 尚未验证。
Jamer69 在 Hugging Face 上发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式,文件大小从 4.00 GB(MLX 4-bit)到 14.23 GB(BF16)不等,推荐 GGUF 使用 Q4_K_M(4.60 GB)。该版本无内置安全检查或内容过滤,可直接生成成人、NSFW 及敏感图像,配套 qwen3vl_8b 文本编码器和 VAE 文件,通过 ComfyUI 与 ComfyUI-GGUF 使用,MLX 格式针对 Apple Silicon 优化。
dima6312 在 Hugging Face 发布 RecursiveSI 的 Flint 40B-A2.5B 去除拒绝方向的 abliterated 版本,提供 BF16 safetensors 与 GGUF 权重。
推荐理由:原文给出消融方法与配对评测数据,MITRE 拒绝率从 0.15 降到 0.0 且各基准质量未显著下降,可据此判断去对齐代价。
dealignai 在 Hugging Face 发布 GLM-5.3-UNCENSORED-FP8 v2,对 GLM-5.3-FP8 做全谱系权重级去对齐,仅修改 bf16 residual writer 张量,不改 FP8 专家路由,无需微调、LoRA 或运行时钩子。v2 修复了 v1 在约 2% 高难度提示上的推理循环问题,HarmBench-320 上 GARBAGE 从 7 降为 0,非版权危害面 TRUE_COMPLY 达 91.7%(off),代价是整体 TRUE_COMPLY 下降约 4pp;MMLU 87.43%,较基线 +1.85pp。
distributedcognition 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 abliterated 版本,将 refusal directions 从同系 DeepSeek-V4.1-Flash-abliterated 迁移而来,以 scale 3.0 的保范双投影编辑作用于 attn.wo_b 和共享专家 ffn.shared_experts.w2(第 4-36 层)。评测显示 LLM 评审下真实拒绝率从基座的 99/100 降到 0/100(53 条完全配合、47 条带免责声明),无害提示 KL 散度 0.093,GSM8K 抽测 18/20 对比基座 19/20。
推荐理由:原文给出拒绝率前后对比、KL 散度和 GSM8K 抽测数据,并说明关键词检测与 LLM 评审的差异,读者可据此评估去对齐程度。
Burabeeh Lab 发布开源权重无审查大语言模型 Kimibrain 的官方 GGUF 版本,支持 Ollama、llama.cpp、LM Studio。模型总参数 34.7B(MoE 架构,256 专家、每 token 激活约 3B),上下文长度 262,144 tokens,附带可选视觉投影器可读图,采用 Q4_K_M 量化,文件 19.7 GiB,基于 Qwen3.6-35B-A3B 社区量化版打包,权重未改动,仅修改元数据和 chat template,以 Apache 2.0 许可开源。
DavidAU 团队发布基于 Qwen3.8-27B 的多阶段微调模型 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored,提供常规与 MTP 两种 NEO imatrix GGUF 量化。8bit 下 ARC-C 735、ARC-E 882,4bit ARC-C 719,均高于原版 Qwen3.8-27B(8bit ARC-C 591);思考 token 缩减至原版的 1/2 到 1/10。去审查用 Heretic v1.2.0+ 的 ARA 方法,Stage 1 拒绝率从 99/100 降到 0/100,KL 散度 0.0535。
同一新闻,精选展示《TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版,ARC-C 达 735》
AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF,将 Qwen-Image 的文本编码器 Qwen3-VL-8B-Instruct 的拒绝方向投影移除,供 stable-diffusion.cpp 以 --llm 参数本地运行。作为聊天模型,英文拒绝率从 88.9% 降至 1.2%,俄语从 38% 降至 0%,MMLU 保持 77.35% 不变;图像侧在 45 条敏感提示上无一翻转,因原管线本就无内容过滤。提供 BF16 到 Q2_K 共 7 档量化,AD-Q4_K 为 4 bit 推荐,附完整制作方法与局限说明。
同一新闻,精选展示《AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF 文本编码器,拒绝率从 88.9% 降至 1.2%》
fribourgquants 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段微调 GGUF 版本,主打去对齐与思考 token 缩减。用 Heretic v1.2.0+custom 的 ARA 方法消融后,Stage 1 拒绝数从原版 99/100 降到 0/100,Stage 2 平衡后为 11/100、KL 散度 0.0025;8bit ARC-C 达 0.735、ARC-E 0.882,4bit ARC-C 0.719,均高于原版 Qwen3.8-27B。思考块缩减至原版约 1/2 到 1/10,支持 xhigh/medium/low 三档推理模式;MTP 量化在 Q4_K_S 上约 90 t/s,普通量化约 75 t/s(5090、LMStudio 实测)。
推荐理由:作者给出了 Heretic 消融前后 100 次拒绝数与 KL 散度的对照数据,以及各量化档位的基准分数,可据此评估该去对齐微调的实际效果。
atrezonator 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的 EfficientThink 无对齐版本,经 SFT 与 SimPO 后训练,拒答评测为 10 类 140 条提示中 4/140(2.9%)。同协议对比显示 SimPO 后 GPQA 升 3.54pp、LCB 升 5pp、MMLU 降 1.80pp;仓库提供 GGUF 六档、NVFP4、INT8-W8A8-QAT、AWQ-W4A16、静态 FP8 等多套量化包及 DFlash2/MTP draft,并附 DGX Spark 与 RTX PRO 6000 上的冻结实测成绩。
推荐理由:原文给出拒答率 4/140 的实测数据和 SimPO 前后 GPQA/MMLU/LCB 对比,读者可据此判断去对齐与能力保留的实际代价。
lilcheaty 发布了 RecursiveSI/flint 的 abliterated BF16 衍生版本,按 Arditi et al. 2024 的拒绝方向方法从第 20 层估计方向并编辑了 12,131 个张量,采用 Apache 2.0 许可。Q3_K_M 量化版在 20 条保留提示上显式拒绝从 20/20 降到 0/20,20 条编码提示双方均 0 拒绝且 40/40 完成回答,作者提醒该小规模对比不代表通用安全或能力基准。运行需 llama.cpp PR #30928 等补丁,GGUF 转换版在 lilcheaty/flint-abliterated-GGUF。
推荐理由:作者给出了拒绝方向的估计方法与 20 条保留提示上的拒绝率前后对比,还说明了编辑未覆盖的局限。
cinnybun02 在 Hugging Face 发布 Spark-X2.6-4B-Abliterated 的 Q5_K_M GGUF(2.77 GiB),用 llama.cpp 的 gguf_new_metadata.py 仅改元数据,将 Sharp-Spark v1.0.0 模板内置为 tokenizer.chat_template,权重与源文件逐字节一致。该模型为 XHToken 的 4.1B dense thinking model,经 Heretic 去除 53 个张量中的 refusal 方向;spark2_5 架构下 131k 上下文时 KV cache 量化后约 1.9-2.5 GiB。
Riyan200324200324 基于 DeepSeek-R1-Distill-Qwen-32B 发布去审查版本 DeepSeek-R1-Distill-Qwen-32B-Uncensored,采用 Guilherme34 的 uncensor 数据集与 QLoRA 微调,遵循 MIT 许可。模型需手动设置指定 system prompt 以获得去审查输出,训练使用 2 x RTX 4090(24 GiB),共 4 个 epoch;因完全依从请求,建议自行加对齐层。
DevelopingDad 在 Hugging Face 发布基于 NVIDIA Qwen3.8-Flash-Next-FP4-Local 的去对齐独立权重,将 trial 117 实验的拒绝方向干预直接烘焙进 checkpoint,无需运行时 adapter。实测显示烘焙版拒绝数为 0/100(开发集)与 3/100(保留集),与原 adapter 的 KL 差异约 0.037 nats;散文解码约慢 12%(34.8 vs 39.4 tok/s),代码速度基本持平,需 B12X vLLM 运行时,serve-spark.sh 支持 262,144-token 上下文与 MTP 投机解码。
推荐理由:原文给出了拒绝率与 KL 的实测对比和单机性能数据,读者可以据此判断这个去对齐版本的实际代价与效果。
基于 XHToken/Spark-X2.6-4B 的去审查版本,用 Tema_Q-Abliterated v1.1.1(SCAPE 算法)从权重中消融拒绝方向,完整生成测试拒绝 0/100,KL 散度 0.0353。SCAPE 代理目标比常规全生成评估快约 49 倍,CPU 即可运行。用法与基础模型一致,支持 transformers、vLLM、llama.cpp 等。
xtools-at 在 Hugging Face 放出 Ministral-3-8B-Reasoning-2512 的去对齐版本,基于 Heretic v2.0.0.dev0 Arbitrary-Rank Ablation(ARA)对第 13 至 25 层做消融。实测 100 次拒绝率从原模型的 96/100 降到 6/100,KL 散度为 0.0839;原模型为带视觉能力的 8.4B 语言模型加 0.4B 视觉编码器,支持 256k 上下文,BF16 需 24GB 显存,量化后低于 12GB。
推荐理由:原文给出 Heretic ARA 消融参数与拒绝率从 96/100 降到 6/100 的前后对比,KL 散度数据可直接评估去对齐改动幅度。
LxBarn 基于 unsloth/Ministral-3-3B-Reasoning-2512,用 Heretic v2.0.0.dev0 的 ARA 方法制作去审查版本。去审查后拒绝率从 91/100 降至 1/100,KL divergence 为 0.0170。该 3.4B 语言模型加 0.4B 视觉编码器的推理模型支持 256k 上下文,BF16 下可装入 16GB VRAM,量化后低于 8GB,采用 Apache 2.0 开源协议。
HauhauCS 发布 Qwen3.8-27B 的 Aggressive 去对齐 GGUF 量化版,实测 465 次测试中 0 次拒绝,保留文本、推理、Agent 及图像视频能力。附带 FastMTP 32K 加速 sidecar,在 Q8_K_P 下文档生成速度达非 MTP 的 3.02 倍、推理生成 1.93 倍,比内嵌 MTP 再快 35.2% 和 21.1%;数据基于 RTX PRO 6000 Blackwell 96 GB、204800 上下文测得。需 llama.cpp 打补丁运行,视觉输入需单独 BF16 projector,沿用 Apache 2.0 许可。
b2z 在 Hugging Face 上架基于 Qwen 的未审核模型 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-oQ4e-mtp。模型采用 Safetensors 格式,参数规模 28B,张量类型为 U32 与 BF16,暂无模型卡,尚未部署到任何 Inference Provider。
koldfrontier 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 FP8 abliterated 完整权重,仅原地改写 52 个张量(attn.wo_b,第 10-35 层),lambda 2.5,架构不变,可直接用 vLLM 或 SGLang 按原配方部署。实测 1,207 条提示下拒绝率大幅下降,如 HarmBench 从 94.1% 降至 5.0%,过拒率略有改善;代价是一个安全工具的授权/未授权配对从 8/11 降到 0/11,另提供保留 6/11 配对的 lambda 1.0 overlay 版本。
同一新闻,精选展示《koldfrontier 发布 DeepSeek-V4.1-Flash-1017 abliterated 全量权重》
dealignai 在 Hugging Face 上架 Ornith-1.5-122B 的 ABLITERATED NVFP4 版本。该列表不含模型权重,权重与完整模型卡位于 dealignai/Ornith-1.5-122B-UNCENSORED-NVFP4 仓库,下载、评测结果和运行说明请使用该 UNCENSORED 仓库,基座模型为 ornith-ai/Ornith-1.5-122B。
jcartu 基于 deepseek-ai/DeepSeek-V4.1-Flash-1017 发布 abliterated 版本,用 grimjim 保范数双投影方法在 4-36 层反转拒绝方向,仅改写 attn.wo_b 与共享专家 FFN w2 两类张量,打包为 Local Inference Lab 的无损 FP4-CSF 格式。实测拒绝数从 17 降到 1,MMLU 保持 88.95% 不变,KL 散度仅比运行间噪声高约 0.011;CSF 版需通过 LiL vLLM 镜像以 --load-format mxfp4_csf 加载,权重 MIT 许可,访问需向 Local Inference Lab 社区申请。
推荐理由:原文给出完整的消融方法、拒绝率前后对照和 MMLU、KL 散度等质量数据,读者可据此评估这个去对齐版本的实际代价。