社区现在怎么看 Grok?从 Grok 4.20 到 4.3 的审查争议
Reddit r/SillyTavernAI 用户称 Grok 4.20(现归入 Gemini)是最不设限的模型,无需越狱即可处理争议话题并生成详细 NSFW 内容,创意与指令遵循表现良好。但新版 Grok 4.3 在 grok.com 上与 4.20 差异显著,因被审查和"脑叶切除"在社区口碑转负,作者询问社区对这两个版本的看法。
新闻、仓库与研究,按时间排列。
Reddit r/SillyTavernAI 用户称 Grok 4.20(现归入 Gemini)是最不设限的模型,无需越狱即可处理争议话题并生成详细 NSFW 内容,创意与指令遵循表现良好。但新版 Grok 4.3 在 grok.com 上与 4.20 差异显著,因被审查和"脑叶切除"在社区口碑转负,作者询问社区对这两个版本的看法。
mradermacher 在 Hugging Face 上发布了 qwen2.5-1.5b-abliterated-argos 的 GGUF 静态量化版本,提供从 Q2_K(0.8GB)到 f16(3.2GB)共 12 种规格,其中 Q4_K_S、Q4_K_M 标注为快速推荐,Q8_0 质量最佳。weighted/imatrix 量化暂未提供,用户可通过 Community Discussion 提出请求。
electroglyph 用 Heretic v2.0.0.dev0 的任意秩消融(ARA)方法发布了 LiquidAI/LFM2.5-24B-A2B 的去对齐版本。拒绝率从原版的 99/100 降到 4/100,KL 散度为 0.0650,PIQA acc_norm 为 0.7497(原版 0.7443);该版本从 50 个候选中选出,仅对第 14 到 27 层做处理。
推荐理由:原模型拒绝率高达99/100,去对齐后降到4/100,同时给出KL散度和PIQA分数,可核对能力损失程度。
lilcheaty 发布了 RecursiveSI/flint 的 abliterated BF16 衍生版本,按 Arditi et al. 2024 的拒绝方向方法从第 20 层估计方向并编辑了 12,131 个张量,采用 Apache 2.0 许可。Q3_K_M 量化版在 20 条保留提示上显式拒绝从 20/20 降到 0/20,20 条编码提示双方均 0 拒绝且 40/40 完成回答,作者提醒该小规模对比不代表通用安全或能力基准。运行需 llama.cpp PR #30928 等补丁,GGUF 转换版在 lilcheaty/flint-abliterated-GGUF。
推荐理由:作者给出了拒绝方向的估计方法与 20 条保留提示上的拒绝率前后对比,还说明了编辑未覆盖的局限。
lilcheaty 基于 RecursiveSI/flint 发布权重编辑的去对齐版本 flint-abliterated-GGUF,沿用 Apache 2.0 协议,从 128 条 AdvBench 有害提示与 128 条 Alpaca 无害提示估计拒绝方向并改写权重。实测显示 20 条保留提示上显式拒绝从 20/20 降到 0/20,20 条编码提示双方均 0 拒绝且 40/40 完成回答;作者说明该对比规模小、不构成通用安全或能力基准,运行需应用 llama.cpp PR #30928 的补丁版本。
同一新闻,精选展示《lilcheaty 发布 RecursiveSI/flint 的 abliterated 去对齐权重版》
dealignai 团队基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone,8B/16B 激活)发布权重级 abliterated 无对齐版本,原生 FP8 量化、1M token 上下文,保留视觉、推理与工具调用能力。HarmBench-320 实测 CRACK 版在 effort=off 和 max 下均 100% 响应、零 HARD_REF/SOFT_RED/HEDGE,而基座在 effort=max 拒绝率反而升至 42.8%→1.6% 通过;MMLU-14k 全集准确率从 86.96% 降至 82.74%,剔除伦理类科目后仅 -1.1 pp。
同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》
Huihui-ai 发布 openbmb/MiniCPM5-2B 的无审查版本 Huihui-MiniCPM5-2B-abliterated,采用 abliteration 技术移除 LLM 的拒答行为,且不依赖 TransformerLens。该版本 abliterated 第 6-37、40 层(0-based),属概念验证实现,用于探测各层对消融的影响;由于模型太小,性能仍不足。模型可通过 Hugging Face transformers 库加载使用。
cinnybun02 在 Hugging Face 发布 Spark-X2.6-4B-Abliterated 的 Q5_K_M GGUF(2.77 GiB),用 llama.cpp 的 gguf_new_metadata.py 仅改元数据,将 Sharp-Spark v1.0.0 模板内置为 tokenizer.chat_template,权重与源文件逐字节一致。该模型为 XHToken 的 4.1B dense thinking model,经 Heretic 去除 53 个张量中的 refusal 方向;spark2_5 架构下 131k 上下文时 KV cache 量化后约 1.9-2.5 GiB。
orcarouter 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 去对齐(abliterated)版的 GGUF 量化权重,提供 Mix-256G(235.8 GB 内存占用)与 Mix-128G(114.0 GB)两种构建,基于 763B 参数 MoE 模型,含 197B 参数 Engram n-gram 表常驻 SSD。去对齐后 500 条有害提示拒绝率加权均值从 0.874 降至 0.074,过度拒绝从 0.069 降至 0.006,MMLU 保持 0.91 左右不变。
推荐理由:原文给出实测 KLD、拒绝率与 MMLU 前后对比,读者可据此判断这个去对齐版本到底去掉了多少、能力是否保留。
SC117 发布 Spark-X2.6-4B-abliterated 的 FIT-GGUF 量化仓库,基于 XHToken/Spark-X2.6-4B 本地做输入门控消融,100 条留出有害提示的拒绝数从 99 降到 7,3-token 全分布 KL 扰动 0.0477,比同拒绝门槛下无门控的 0.2134 低 78%。仓库含 5 个经 KL 门限验证的 FIT 档位加 BF16 参考文件,五档合计 12.84 GiB,比同门槛下最小原生预设小 0.60 GiB(4.5%),其中两档即原生预设;imatrix 由公开语料重建,评测切片未进入校准文本。
推荐理由:原文给出输入门控消融的拒绝率与 KL 前后对比,以及五档量化相对原生预设的实测差距,可据此评估取舍。
privastudio 在 Hugging Face 上重新分发 huihui-ai 制作的 Huihui-Qwen3.8-27B-abliterated 的 Q4_K GGUF 量化版(约 16.8 GB),打包为可在 PrivaEmanator 中本地加载的格式。该模型基于 Qwen3.8-27B,由 huihui-ai 移除了拒绝回答行为,附带 mmproj-BF16.gguf 视觉投影文件以支持图像输入,采用 Apache-2.0 许可证。
nchapman 在 Hugging Face 发布 Huihui-Qwen3.8-27B-abliterated-W4A16-GPTQ 模型,提供 Transformers、vLLM、SGLang 及 Docker 部署方式,并支持 image-text-to-text 多模态推理。模型可通过 vLLM 或 SGLang 启动服务后以 OpenAI 兼容 API 调用。
Ju-Chun Ko 在 arXiv 发表论文(arXiv:2610.29342),测试 abliteration(去审查)模型是否同时消除政治审查相关偏差。研究用 NVIDIA Nemotron 3.5 Bolt 74B-A9B 与 Qwen3.8-Flash-Next 及各自的社区 abliteration 版本,以繁体中文、简体中文和英文各回答 22 组陈述对和 27 个开放问题。结果显示脚本影响远大于 abliteration:原版 Bolt 在繁中 Index S 得分 +0.58、英文 +0.57、简中仅 +0.05,且以 0.91 的概率在简中肯定台湾属于 PRC、繁中仅 0.06;abliteration 最多改变 0.06。
推荐理由:论文用配对模型实测 abliteration 前后偏差,显示去审查不等于去立场偏差,并给出脚本切换与立场方向的量化证据。
WRDO(Weighted Refusal Direction Optimization)通过学习聚合权重,将逐提示词的拒绝方向组合为复合拒绝方向,改进传统差值均值单一方向的做法。该方法在三个开源权重模型上以三个 guard judge 和 HarmBench 评估,优于既有单方向方法,还可反向用于恢复被 abliterated 模型检查点的拒绝行为。论文已被 EMNLP 2026 接收。
cc1244578151 在 Hugging Face 发布 Qwen3.8-Flash-Next-Abliterated-Uncensored GGUF 量化模型,规格为 120B 参数、180B 级 512 专家 MoE(每 token 激活 10 个),并搭载 Turbo Brilliance 50x 系统(27 推理 + 27 instruct 模式,另有 9 个 xhigh)与 15 个 AI Constructs。该版本经 abliterated 去审查处理、无 censorship,支持在提示词、API 或 VLLM 中实时切换模式,可在 12GB 显存 GPU 上运行;实测 46GB 双 GPU + 内存 offload 达 17 t/s,全 GPU offload 达 60-90 t/s。
Riyan200324200324 基于 DeepSeek-R1-Distill-Qwen-32B 发布去审查版本 DeepSeek-R1-Distill-Qwen-32B-Uncensored,采用 Guilherme34 的 uncensor 数据集与 QLoRA 微调,遵循 MIT 许可。模型需手动设置指定 system prompt 以获得去审查输出,训练使用 2 x RTX 4090(24 GiB),共 4 个 epoch;因完全依从请求,建议自行加对齐层。
apetersson 正在上传 DeepSeek V4.1 Flash 1017 Abliterated 的 MLX 版本,为 Apple Silicon 准备的 oQ2.5e 混合精度检查点,共 53 个 Safetensors 分片,包大小约 342.7 GB,尚未完成,需等待 PUBLICATION.json 和 v1-oQ2.5e-mtp 标签发布后再下载。推荐在 256 GiB 统一内存 Mac 上用 oMLX 0.7.2 运行,上下文从 32K 起步,Engram 张量约 114.4 GiB 卸载至本地 SSD;SSD 前缀缓存测试中 8,588 个 token 复用 8,192 个,请求耗时从 14.62 s 降至 1.45 s。
Hugging Face 用户发布 Qwen3.8-Flash-Next-Abliterated-Uncensored-Turbo-Brilliance 的 GGUF 量化版,为 180B 参数、512 专家(每 token 激活 10 个)的无审查 abliterated 模型。其 Turbo Brilliance 系统含 27 推理与 27 instruct 模式及 15 个 AI Construct,可在提示词、API 或 VLLM 中即时切换,instruct 模式 0 thinking token;量化由 GSQ-RCO 完成,可在 12GB 显存 GPU 上运行,RTX6000(96GB)估计达 150 t/s。
alexwkleung 用 Heretic 对 XHToken/Spark-X2.6-4B(dense 4.1B 思考模型)做定向消融,发布 abliterated GGUF 权重,并用 llama.cpp 量化出 Q4_K_M 到 Q8_0 多档。与官方 Q8_0 对照:拒绝率从 43/44 降到 0/44(thinking 开与关均如此),GSM8K n=100 为 88/100 对 91/100,McNemar p=0.45 未检出数学回归;代价是思考开启时平均约 5k tokens(stock 529),部分超出 8192 预算,无拒绝系统提示可将其减半。
推荐理由:原文给出与官方 Q8_0 逐位对照的拒绝率、GSM8K 和思考开销数据,可据此判断这个去对齐版本的实际代价。
thelogicalgate 基于 InternScience/Sage-A1.5 发布网络安全向拒绝消融(abliteration)版本,打包为 Apple Silicon 原生 MLX 8-bit 量化并保留原训练的 MoE 多 token 预测(MTP)草稿头。校准使用 mlabonne/harmful_behaviors 与 harmless_alpaca 各 128 条提示,在 8–31 层以强度 0.75 修改 72 个输出投影模块,路由权重与 QKV 投影未改动;12 条非工具冒烟提示中拒绝启发式检出基线 2 次、修改版 0 次,本地 Python 反序列化与 IDOR PoC 由基线拒绝变为可产出脚本。
推荐理由:原文给出了激活校准方向、修改层与拒绝率前后对比等实测细节,读者可据此判断这个去对齐版本的实际改动幅度。
nchapman 在 Hugging Face 发布 Huihui-Qwen3.5-9B-abliterated-W4A16-GPTQ 模型,提供 Transformers、vLLM、SGLang 及 Docker 部署的官方用法示例,支持 image-text-to-text 多模态推理,并可通过 OpenAI 兼容 API 调用。
Subnet46 在 Hugging Face 发布 zai-org/GLM-5.3-Flash 的 abliterated 版本,通过正交化移除拒绝方向并直接烘焙进官方 block-FP8 分片,可原位替换原权重。JailbreakBench 有害拒绝率从 0.891 降至 0.094,过度拒绝从 0.094 降至 0.000,MMLU 等四项能力基准变化在 ±1.5 pp 内;部分内容类别不受该方向中介仍接近原拒绝率,权重共 306 GiB,需 8×H100/H200 以张量并行运行。
推荐理由:原文给出拒绝率前后对比、能力保留数据和拒绝方向所在层的分析,可据此判断这次去对齐实际去掉了多少。
AbliteratedOutTheBox 是一个 llama.cpp 分支,能在加载模型的推理过程中实时执行 abliteration,无需微调、不产生额外文件,也不需要更多 VRAM。这省去了常规 abliteration 流程的繁琐操作。
DevelopingDad 在 Hugging Face 发布基于 NVIDIA Qwen3.8-Flash-Next-FP4-Local 的去对齐独立权重,将 trial 117 实验的拒绝方向干预直接烘焙进 checkpoint,无需运行时 adapter。实测显示烘焙版拒绝数为 0/100(开发集)与 3/100(保留集),与原 adapter 的 KL 差异约 0.037 nats;散文解码约慢 12%(34.8 vs 39.4 tok/s),代码速度基本持平,需 B12X vLLM 运行时,serve-spark.sh 支持 262,144-token 上下文与 MTP 投机解码。
推荐理由:原文给出了拒绝率与 KL 的实测对比和单机性能数据,读者可以据此判断这个去对齐版本的实际代价与效果。
theJuice85 在 Hugging Face 发布面向 Qwen3.8-27B-GGUF(Q4_K_XL)的去对齐 LoRA 适配器 heretic-qwen38-t26,用 directional ablation 搜索找到。实测将硬拒绝率从基座的 33-86% 降到约 0,能力评测(AIME24、GPQA、MMLU Pro 等 43 个成对项)未发现可统计的能力损失;仅 2.5 MB,AGPL-3.0-or-later。注意其只评测了拒绝率与能力回归,未评测下游安全性,且系统提示词是必要条件,缺失时模型会以带说教的方式作答。
推荐理由:作者给出成对的拒绝率与能力回归数据,硬拒绝从 33-86% 降到约 0 且能力无可测差异,可据此判断这个去对齐适配器的实际效果。
BIGJUTT/Qwen3.8-27B-Defiance-Uncensored-MTP-GGUF 是在 HauhauCS 的 uncensored Qwen3.8-27B 权重(866 个 tensor 与上游逐字节一致)上,套用 DavidAU Turbo-Brilliance "AI Construct" 聊天模板的 GGUF 模型,支持 Joker、Dr. House、20-agent Einstein panel、Socratic tutor 等按请求选择的模式。模板内置于每个 GGUF 中,llama.cpp、LM Studio、Ollama 无需额外参数即可加载,文档给出 llama.cpp、vLLM、Ollama、Docker 等多种运行方式,示例量化为 IQ4_XS。
Cheurteen 在 Hugging Face 发布了 Hikari07jp 消融版 Ternary-Bonsai-2 27B 的重打包 GGUF:把三值权重从 2.125-bit 编码重新量化到 Prism 的 1.75-bit PTQ1_0 格式,并将 PrismML 的 MTP 草稿头以 Q4_0 重新量化合并。实测在 RTX 3070 8 GB 上,带草稿头的文件达 69.3 tok/s,无头版本 50.8 tok/s;困惑度 8.2894 优于 2.125-bit 版的 8.4593,MMLU 76.07%、HumanEval pass@1 75.00%,重打包仅改变 0.0943% 的权重、MMLU 差 0.14 点。
推荐理由:作者不仅重打包了消融权重,还给出困惑度、tok/s 和 MMLU 等前后对照数据,可以看清 1.75-bit 格式相对 2.125-bit 的实际收益。
AtomicChat 发布 DeepSeek-V4.1-Flash-1017 的 DwarfStar(ds4)Q2 版 GGUF,把 DeepSeek 的拒绝方向从权重中投影移除,仅替换写入残差流的 122 个张量,其余字节与原文件一致,文件大小 365.7 GB,MIT 许可。同一编辑在 llama.cpp 实测中,JailbreakBench 英文拒绝率从 91.4% 降到 0.0%,XSTest 安全拒绝率从 8.0% 降到 0.4%,MMLU 变化在约 2 分内;该文件本身尚未在 DwarfStar 上测得数据,适用 Metal(Apple Silicon)、单张 CUDA GPU 或 ROCm。
推荐理由:原文给出同编辑在 llama.cpp 上的 JailbreakBench 等前后实测数据,读者可以据此估算该 Q2 版本的去对齐收益与 MMLU 代价。
burningfeet 在 Hugging Face 发布基于 HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 的 Genesis 版 GGUF 模型,经 Marchenko–Pastur 定律的 SVD 张量去噪修复,0/465 次拒绝。模型为 MoE 架构,总参数 35B、每 token 激活约 3B,原生 262K 上下文(YaRN 可扩展至 1M),支持文本、图像、视频多模态,兼容 llama.cpp、LM Studio 等运行时。
AtomicChat 将 DeepSeek-V4.1-Flash-1017 中的拒绝方向从权重中投影移除,发布 GGUF 量化版和 rank-1 LoRA 适配器。实测 JailbreakBench 英文拒绝率从 88.9%/91.4% 降至 0.0%,3.58bpw-Q2_K 档 MMLU 86.0%→86.6%,2.67bpw-IQ1_M 档 MMLU 降至 81.8% 未通过门槛;需支持 DeepSeek-V4.1 的 llama.cpp 构建(如 Unsloth 的 commit 9d907b7cfe0e),Engram n-gram 表可留在 SSD 上分页读取。
推荐理由:原文给出拒绝率、KLD 和 MMLU 的前后对照数据,还说明各量化档的取舍,读者可据此选择合适的版本。
基于 XHToken/Spark-X2.6-4B 的去审查版本,用 Tema_Q-Abliterated v1.1.1(SCAPE 算法)从权重中消融拒绝方向,完整生成测试拒绝 0/100,KL 散度 0.0353。SCAPE 代理目标比常规全生成评估快约 49 倍,CPU 即可运行。用法与基础模型一致,支持 transformers、vLLM、llama.cpp 等。
AtomicChat 放出 BFL 的 FLUX 3 Image Klein 提示词扩展器去拒绝版本,通过投影移除拒绝方向,以 GGUF 和 3MB LoRA 两种形式提供。作为对话模型,英语拒绝率从 63% 降到 0%,俄语从 29% 降到 1%,MMLU 仅从 74.15% 降到 73.95%;在 Klein 文生图管线中未观察到去审查效果,因原始图像模型本身已能画出敏感类别。
推荐理由:发布方给出拒绝率、MMLU 和量化损失的完整实测数据,读者可据此判断这个去对齐版本的实际代价。
AtomicChat 发布 FLUX 3 Image Klein 文本编码器 Qwen3-VL-4B-Instruct 的去对齐 GGUF,将拒绝方向从权重中投影移除,供 stable-diffusion.cpp 以 --llm 直接使用。英文拒绝率从 79% 降至 0%,俄语从 32% 降至 0%,MMLU 从 71.1% 到 71.2%;提供 BF16 到 Q4_K 多档量化,并附与 webmp3 Sakura 等同类编码器的对比数据。
同一新闻,精选展示《FLUX 3 Image Klein 文本编码器去对齐 GGUF 版发布,英文拒绝率从79%降至0%》
pottokao 在 Hugging Face 发布 LiquidAI LFM2.5-24B-A2B 去审查版的 NVFP4(W4A16)量化模型,经 Heretic ARA 处理后拒绝率从 89/100 降至 0/100。模型体积 14.95 GB(BF16 原版 48 GB),仅 MoE 路由专家采用 NVIDIA ModelOpt 0.45 量化,其余权重保持 BF16,可用 vLLM 部署,适用于研究、红队测试与个人使用。
pottokao 发布基于 LiquidAI/LFM2.5-24B-A2B 的去对齐版本,用 Heretic 的 ARA 方法和分布式 Optuna 搜索实现。仅 model.layers.38.self_attn.out_proj.weight 一个张量被改动,BF16 权重、tokenizer 和聊天模板保持官方原样。实测(关闭思考块后测)拒绝率从原版 89/100 降到 0/100,first-token KL 为 0.260;作者提醒不同测法下 KL 数字差异巨大,需同口径对比。用法与原模型相同,支持 transformers / vLLM / SGLang / llama.cpp,官方 DSpark draft 模型在此版本上的接受率尚未测得。
推荐理由:原文给出只用一个张量的最小改动和关闭思考块前后的 KL 对照,可帮助读者判断去对齐版本的取舍。
PinoCookie 在 Hugging Face 发布 Qwen/Qwen3Guard-Gen-4B 的 abliterated 版本,移除该安全分类器的有害内容标记行为,而非聊天模型的拒绝行为。在 80+80 对照集上,原版标记 78/80 有害对,消融后标记 0/80,良性选择性保持 80/80 Safe,margin 排序 AUC 从 0.988 降至 0.9755;采用 L32 α=6.0 的单层 o_proj+down_proj 消融点,同配方复现三次结果一致,并在不同主体模型的 40+40 新切片上复验。
推荐理由:原文给出消融方法、逐层消融网格和 80+80 对照数据,可据此判断这次对 guard 模型的去对齐到底去掉了什么、代价多大。
xtools-at 在 Hugging Face 放出 Ministral-3-8B-Reasoning-2512 的去对齐版本,基于 Heretic v2.0.0.dev0 Arbitrary-Rank Ablation(ARA)对第 13 至 25 层做消融。实测 100 次拒绝率从原模型的 96/100 降到 6/100,KL 散度为 0.0839;原模型为带视觉能力的 8.4B 语言模型加 0.4B 视觉编码器,支持 256k 上下文,BF16 需 24GB 显存,量化后低于 12GB。
推荐理由:原文给出 Heretic ARA 消融参数与拒绝率从 96/100 降到 6/100 的前后对比,KL 散度数据可直接评估去对齐改动幅度。
dealignai 发布了 DeepSeek-V4.1-Flash-1017 的去拒绝(uncensored)版本 DeepSeek-V4.1-Flash-1017-UNCENSORED-FP8,通过权重级修改移除拒绝行为,采用原生 FP8(e4m3)加 FP4 MoE 专家权重,保留 1M 上下文、视觉与视频、工具调用和推理档位。实测 HarmBench-320 在 reasoning_effort=max 下 320/320 全部 COMPLY、零拒绝;MMLU logit 评分从基线 87.63% 降至 83.77%(−3.86 pp)。作者建议低比特量化需在目标精度上重做 abliteration 流程,否则合规性可能退化;权重以 MIT 许可发布,需手动申请访问。
推荐理由:发布方给出了与官方API同提示词的MMLU对照和HarmBench全合规数据,可以据此判断这次abliteration的合规收益与能力代价。
Hugging Face 上的 mradermacher/Qwopus3.5-27B-v3-Abliterated-i1-GGUF 提供 Q2_K 等量化版本,可通过 llama.cpp 在 macOS、Linux 和 Windows 上以 `llama serve` 启动本地 OpenAI 兼容服务器或在终端直接推理,也支持 Ollama、Docker Model Runner 运行,并可接入 Pi、Hermes、OpenClaw 等工具。
LxBarn 基于 unsloth/Ministral-3-3B-Reasoning-2512,用 Heretic v2.0.0.dev0 的 ARA 方法制作去审查版本。去审查后拒绝率从 91/100 降至 1/100,KL divergence 为 0.0170。该 3.4B 语言模型加 0.4B 视觉编码器的推理模型支持 256k 上下文,BF16 下可装入 16GB VRAM,量化后低于 8GB,采用 Apache 2.0 开源协议。