GLM 5.3 Uncensored 已上线 NanoGPT,有人试过吗?
Reddit 用户发帖询问是否有人试用过 NanoGPT 上的 GLM 5.3 Uncensored。该模型未包含在订阅内需单独付费,发帖人想知道它是否真的优于订阅已包含、表现已很好的 GLM 5.2,以及实际使用成本如何。
新闻、仓库与研究,按时间排列。
Reddit 用户发帖询问是否有人试用过 NanoGPT 上的 GLM 5.3 Uncensored。该模型未包含在订阅内需单独付费,发帖人想知道它是否真的优于订阅已包含、表现已很好的 GLM 5.2,以及实际使用成本如何。
minpei 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated IQ3_S 的 Strata pack,包含 dense 权重与张量索引,绑定 GGUF revision eec4e10a,dense.bin(1.5 GB)仍在上传,可用 tools/iq_pack.py 9 秒自建。在 RTX 3060 12 GB + GTX 1080 Ti 11 GB、64 GB RAM 参考配置下,上下文 131,072 tokens,解码速度 21.9–24.6 tok/s。该模型已 abliterated(移除拒绝方向),无内置护栏,需自行提供内容审核。
Xx-Vexento-xX 基于 Heretic v2.0.0.dev0 发布了 meta-llama/Llama-3.2-3B-Instruct 的去对齐(decensored)版本。实测 100 条样本中拒绝数从原模型的 96 降到 9,KL 散度为 0.0430,并公开全部消融参数与复现说明。
推荐理由:模型卡给出了消融参数、KL 散度和 100 题拒绝率的与原模型对照数据,且声明可复现并附复现说明。
Derpyhue 发布 huihui-ai/Huihui-Qwen3.8-27B-abliterated 的 2.65bpw 量化版本,该模型是通过 abliteration 技术移除拒绝行为的 Qwen3.8-27B 无审查版本。最新更新仅对第 18 至 51 层做了消融,其余层保持原样以保留更多原模型性能,MTP 和视觉部分未改动,可通过 ollama 运行 huihui_ai/Qwen3.8-abliterated 或 transformers 加载使用。
xdfhg 在 Hugging Face 发布基于 Qwen3.8-27B 的网络安全领域去拒绝模型 Qwen3.8-27B-Uncensored-Cyber,采用 recipe-v2 单向拒绝消融加 β=1.0 范数保持投影,仅对第 4 层起更深层处理,保留视觉塔与 MTP 投机解码头。bf16 评测显示 100 个 held-out 网络攻击提示全部开放(上一版为 93/100),confab 从 1.0 降至 0.867,事实准确率 1.0 优于上一版 0.933,GSM8K 持平且零退化,并提供 -W4A16-AWQ、NVFP4 及 llama.cpp GGUF 量化版本。
推荐理由:原文给出 v2 配方与前后两版的拒绝率、事实准确率对照数据,可据此评估这版去拒绝在开放度与能力保留之间的取舍。
dealignai 发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone,8B/16B 激活)的权重级消融版本,以原生 FP8 格式提供 1M token 上下文、视觉与工具调用,采用自研消融方法,不依赖 runtime hooks 或 steering vectors。HarmBench-320 上 CRACK 版在 effort=off 和 max 下拒绝率均为 100%(对比基线 42.81% 和 1.56%),且 HARD_REF/SOFT_RED/HEDGE 均为零;MMLU-14k 整体下降 4.22 pp,剔除伦理类题目后约 -1.1 pp,在 3 pp 知识保留目标内。
同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》
Qwen3.8-27B 的 HauhauCS Aggressive 去审查微调版被转换为 NInfer 专有的 .ninfer 格式,供 RTX 4090(sm_89)使用,每个文件约 19.03 GiB,提供 v2 与 v3 两种容器。该模型去审查彻底,HauhauCS 报告在 465 条探测集上 0 次拒答,仅能被 NInfer 引擎加载,不支持 transformers、vLLM、llama.cpp 或 LM Studio。262,144-token 预算、INT8 KV 下快速语料困惑度为 4.4005(官方版 4.3446)。
Reddit 用户实测 Gemini 4 后称其审查比 3.8 更少,无预设时基础文笔也不过度作者化、少元评论。Sola 和 Realistic Frankenstein 预设搭配表现很好,assistant 技巧几乎完全消除残余审查,用户感叹当前可选模型之多。
huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝回复,发布 Huihui-Qwen3.8-27B-abliterated-GGUF 无审查版本,仅对 22 至 52 层(0 起始索引)做消融,其余层保持原样。针对 Q8_0 以下量化版本,将 token_embd、output、ffn_down、ssm_out、attn_output 等张量转换为 Q8_0 并命名为 K_L 系列,Q8_0 版则改为 BF16 并命名 Q8_0_L。模型可经 ollama(huihui_ai/Qwen3.8-abliterated)运行,llama.cpp 需最新版,上下文长度 262144。
huihui-ai 基于 abliteration 技术推出 Qwen3.8-27B 的去审查 GGUF 版本,仅对第 22 到 52 层(0 起始索引)做消融,其余层保留原样,MTP 与视觉部分未修改。多个衍生系列分别来自 unsloth、ISTA-DASLab、prism-ml、ukisai 和 ConwayResearch 的 GGUF 权重,其中 Q2_K_L 至 Q6_K_L 版本将待消融张量 requantize 到 Q8_0 以提升回复质量。模型可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行,支持 -c 262144 上下文,官方建议仅用于研究测试而非生产环境。
Launch80 在 Hugging Face 发布 Swift-1.5-Qwen3.8-27B-Uncensored-Int4-baked,将上游 ajgazin 的拒绝方向消融权重整体量化为 GPTQ INT4,lm_head 与 MTP draft 也压到 INT4,单卡 Intel Arc Pro B65 32 GB 可用原版 vLLM 服务 262,144 token 上下文。
推荐理由:原文给出拒绝率实测、困惑度与逐张量相对误差对比,读者可据此核验这个 INT4 去对齐版本的量化质量与解码速度。
huihui-ai 基于 deepseek-ai/DeepSeek-V4-Flash-0731 用 abliteration 技术制作了无审查 GGUF 版本,支持 llama.cpp 和 ds4,提供 Q2、Q4 等量化及 262144 上下文示例命令。Q4 采用了比 Q2 更强的 abliteration 强度,拒绝率更低;专家模块未被消融。模型适合研究测试用途,安全过滤大幅削弱,不建议直接用于生产环境。
robertbschuette 在 Hugging Face 发布 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored 的 GGUF 量化包。作者称该多阶段微调模型 8 bit 下 ARC-C 达 0.735、ARC-E 达 0.882(原版 Qwen3.8-27B 为 0.591/0.782),思考 token 减至原版的 1/2 至 1/10。
huihui-ai 基于 Qwen/Qwen3.8-Flash-Next 通过 abliteration 技术制作去审查版 GGUF 模型,v2 版调整了消融重点且未消融任何专家模块。模型适合小说写作和编程,官方演示使用 UD-Q4_K_XL 量化并支持 262144 上下文,兼容最新 llama.cpp 与 Strata。因安全过滤大幅降低,建议仅用于研究测试环境,输出可能含敏感或不当内容,用户需自行审查并承担相应风险。
Hugging Face 用户 Joscio 发布 Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 多种格式,文件大小从 4.00 GB(MLX 4-bit)到 14.23 GB(BF16)不等,其中 Q4_K_M(4.60 GB)被推荐为体积与质量的最佳平衡。该版本移除内置安全检查器,可直接生成 NSFW 等敏感图像,需配合 ComfyUI 与配套的 qwen3vl_8b 文本编码器及 VAE 使用,遵循 Qwen Research License。
dealignai 团队基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone,8B/16B 激活)发布权重级 abliterated 无对齐版本,原生 FP8 量化、1M token 上下文、保留视觉与工具能力,以标准 checkpoint 形式直接加载。HarmBench-320 上 CRACK 版在 effort=off 和 max 下 ASR 均为 100.00%,而基座分别为 42.81% 和 1.56%;MMLU-14k 全集精度从 86.96% 降至 82.74%(-4.22 pp),剔除伦理类题目后约 -1.1 pp。
同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》
SaturnHeaven 在 Hugging Face 上传 DeepSeek-V4.1-Flash-UNCENSORED 的 RANMA EXL3 GGUF 版本,模型卡片与文件随后补齐。该版本基于 dealignai 制作的去审查与 EXL3 2.9bpw 量化模型 repack 而成,未重新量化,需 ranma.cpp ranma_20261013 或更新版本。
ready-eight 发布 GLM-5.3-UNCENSORED 的 EXL3 3.0bpw 量化版,源模型为 dealignai 对 zai-org/GLM-5.3 做权重编辑(非微调)的去对齐版本,总量 753B,文件 273 GiB。作者给出与 FP8 源的 KL 散度和困惑度数据,tau2-bench 对比显示 airline 差 -0.070、retail 差 -0.022,均无统计显著性;另提醒 glm4_5 解析器会把字符串参数 JSON 解码成整数,导致零售场景约 70% 工具调用失败,评测已应用该修复。
推荐理由:作者实测了该量化版与原版的 KL 散度和 tau2-bench 对比数据,可据此评估去对齐与量化带来的实际损失。
MorinoNushi 发布 GLM-5.3-Flash(320B 总参/18B 激活 MoE,MIT 协议)的去对齐 LoRA 适配器 V3,用 heretic-gguf 对量化 GGUF 权重做 Optuna 优化的方向性消融。有害提示拒绝率从 V2 的 35/140 降至 14/140(10.00%),KL 0.2380 也低于 V2 的 0.3030;适配器约 86 MB,无需改动或重新量化约 160 GB 基座权重,可直接在主线 llama.cpp 上以 --lora 方式加载,不再需要 fork 或补丁。
推荐理由:原文给出消融方法、拒绝率与 KL 前后对比数据,读者可以据此判断 V3 相对 V2 实际去掉了多少拒绝行为。
mradermacher 在 Hugging Face 发布 smollm2-1.7b-uncensored 的 i1-GGUF 量化模型。该模型参数量为 492k(模型大小 492k params),以 GGUF 格式提供,可按硬件兼容性下载使用。
DogEasy 在 Hugging Face 发布 AMD FLUX.2 [klein] 4B NPU 模型的 abliterated 改版,将 Qwen3-4B 文本编码器替换为 ponpoke 的 abliterated 版本,导出 ONNX 并量化为 4-bit MatMulNBits(block size 128、非对称),保留原输入/输出接口,经 DirectML/CPU 运行。AMD 优化的 transformer 和 VAE decoder 保持不变,prompt embeddings 为 FP16 [batch, 256, 7680],推理为 4 步蒸馏版,适用于 AMD GenAI-SD (sd-sandbox) 和 Ryzen AI 1.8.0。
DavidAU 系发布基于 Qwen3.8 27B 的 ULTRA HERETIC 无审查版本,主打更强去对齐。原版 Qwen3.8 拒绝率为 86/100,709-L 版为 68/100(KL divergence 0.0025),ULTRA HERETIC 版降至 6/100(KL divergence 0.0397)。该模型含 5 种 thinking 模式和 5 种 instruct 模式,可即时切换,thinking token 用量降至原版的 1/2 至 1/5(最低 1/20);正文附 nightmedia 的 arc/c、arc/e、boolq 等 7 项基准对比数据,GGUF 版计划 2026 年 9 月 15-18 日左右发布,源权重随后放出。
推荐理由:原文给出 Heretic 去对齐前后的拒绝率对比与 KL divergence 数据,可据此判断这个去对齐版本实际去掉了多少安全对齐。
JonathanColetti 发布 Qwen3.8-27B 的去对齐 GGUF 量化版本,用 Heretic 移除拒绝方向并保留 MTP 头,100 条有害提示上的拒绝数从基线的 98 降至 12,MMLU 等 4 项基准平均降 0.5 分。提供 IQ2_M 到 Q8_0 共 6 档量化及 noMTP 变体,imatrix 与全套困惑度基线已公开,摘要说明拒绝行为是减少而非消除,接近原拒绝边界处稳定性较低,低比特量化会加剧该问题。
同一新闻,精选展示《Qwen3.8-27B-Uncensored GGUF 量化版发布,拒绝率从 98/100 降至 12/100》
softwareweaver 发布 GLM-5.3 Uncensored 的 EXL3 量化转换版,源自 dealignai/GLM-5.3-UNCENSORED-FP8,提供 3bpw(307.59 GB)和 6bpw(585.17 GB)两种规格,均保留 MTP 并可选 DFlash2 文件夹。权重采用 ExLlamaV3 的高质量分配,实际码率略高于目标值,需搭配兼容推理软件和足够内存/显存使用。
huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝回复,发布 Huihui-Qwen3.8-27B-abliterated-GGUF。该版本仅对第 22 至 52 层(0 起始索引)做消融,并新增 Underdog-Saluki、Swift、Ternary、GSQ-RCO、UD-DW 等系列,其中部分量化将需消融权重转为 Q8_0 以提升响应质量,MTP 和视觉部分未改动。模型支持最新 ollama(huihui_ai/Qwen3.8-abliterated)和 llama.cpp(上下文 262144),因安全过滤大幅减弱,建议仅用于研究或测试环境。
dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone、8B/16B 每 token 激活)的权重级 abliterated 无对齐版本,以原生 FP8 权重提供,1M token 上下文,保留视觉、工具调用与推理能力,不带自定义 model.py 或运行时钩子。HarmBench-320 实测显示 base 模型在 effort=off 时拒绝率 42.81%、effort=max 时仅 1.56%,CRACK 版在两档下均 100% 顺从且无 HARD_REF/SOFT_RED/HEDGE;MMLU-14k 全集准确率从 86.96% 降至 82.74%(-4.22 pp),剔除伦理类科目后约 -1.1 pp。
同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》
AtomicChat 在 Hugging Face 发布 Qwen-Image-2.1-Turbo 的去对齐文本编码器 GGUF,将 Qwen3-VL-8B-Instruct 的拒绝方向投影移除,可作 stable-diffusion.cpp 的 --llm 使用。作为聊天模型,英文有害提示拒绝率从 88.9% 降到 1.2%,俄语从 38% 降到 0%,MMLU 保持 77.35% 不变。在 45 条敏感图像提示上与原版编码器无一翻转,提供 BF16 到 Q2_K 共 7 档量化,AD-Q4_K 画像偏移为普通 Q4_K_M 的一半。
同一新闻,精选展示《AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF 文本编码器,拒绝率从 88.9% 降至 1.2%》
作者发布 Swift 1.5 Qwen3.8-Flash-Next NVFP4 的去审查替换文件,将拒答方向以 1.5 倍强度从 151 个写入残差流的张量中投影掉,并提供每层专家从 512 个剪至 256 个的 pruned256 变体。逐文件给出 SHA-256 与验证报告,24,576 个专家重新量化后分量约 −0.498;实测在单卡 RTX PRO 6000(96 GB)上用 SGLang 可跑约每秒 1,000–1,200 生成 token,12 个中文政治敏感问题全部完整回答而原版大多拒答或给官方口径短答。未跑通用基准与 pruned256 变体;n-gram 嵌入分片约 102 GB 需从原仓库获取。
推荐理由:作者给出了逐层投影去除拒答方向的做法和完整验证数据,包括编辑前后分量、量化误差和12题政治敏感问题实测对比,可直接复现。
IndrasMirror 发布 DeepSeek-V4.1-Flash-GSQ-Uncensored,对 dealignai 的 abliterated 检查点做校准混合量化,552B 参数 MoE 压缩至约 163 GB(152 GiB 专家权重),可在 RTX 4090 24 GB + 90 GB RAM + NVMe 的家用 PC 上运行。量化采用三档专家格式(42.8% 三值、39.2% 2-bit、18.0% 3-bit),与同尺寸均匀 Q2_0 相比输出误差低 17%;held-out 困惑度 5.645(原模型 4.915),top-1 一致率 0.674。实测 Prefill 250 tok/s、Decode 约 26 tok/s(启用 ggml patch 可达 27+)。
推荐理由:原文完整公开了混合精度量化的校准方法、逐层误差和困惑度数据,并给出在单张 RTX 4090 上复现所需的全套工具与硬件清单。
dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B 底座、每 token 激活 8B/16B)的权重级 abliterated 无对齐版本,以原生 FP8 权重提供,支持 1M token 上下文、视觉与工具调用。HarmBench-320 实测显示 CRACK 版在 effort=off 和 max 下拒绝率均为 100% 通过(base 分别为 42.81% 和 1.56%),MMLU-14k 整体准确率从 86.96% 降至 82.74%,剔除伦理类科目后约 -1.1 pp;模型卡还给出 SGLang 部署命令、KV 内存占用、4×H200 实测吞吐(单流 101-113 tok/s)及多项启动注意事项。
同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》
huihui-ai 在 Hugging Face 发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated,这是基于 nerkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2 的去审查(abliterated)版本,通过不依赖 TransformerLens 的概念验证方法移除模型拒答,仅对第 2 至 52 层做了 ablated 处理。模型可用 transformers 库加载,默认以 bfloat16 精度运行,支持可开关的 thinking 模式与流式输出。
mradermacher 在 Hugging Face 上发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 的 GGUF 静态量化版本。提供的量化档位按大小排序,包括 Q2_K(11.0 GB)、Q4_K_S(15.9 GB,标注 fast、recommended),以及 mmproj-Q8_0(0.7 GB)和 mmproj-f16(1.0 GB)的多模态补充文件。weighted/imatrix 量化暂不可用,用户可通过 Community Discussion 申请。
dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B 底座、1M 上下文、原生 FP8)的权重级 abliterated 版本,称移除拒绝回路同时保留 MoE、Engram 记忆、CSA2 稀疏注意力和视觉塔等组件为逐字节一致。HarmBench-320 实测显示 CRACK 版在 effort=off 与 max 下 ASR 均为 100%(基座分别为 42.81% 和 1.56%),MMLU-14k 整体下降 4.22 pp,剔除伦理类题目后约 -1.1 pp。模型卡还给出 SGLang(dsv4.1 分支)部署细节、4×H200 实测吞吐(单流 101-113 tok/s)与并发-上下文内存权衡,vLLM 支持截至发文尚未合并。
同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》
Petyx123 在 Hugging Face 发布 abliterated 版本的 Huihui-GLM-5.3-Flash GGUF 模型,提供 UD-Q4_K_XL 量化版本。该模型为图像-文本到文本多模态模型,可在 llama.cpp、vLLM、SGLang、Ollama、LM Studio、Docker Model Runner 等多种推理框架中运行,并支持通过 OpenAI 兼容 API 进行本地部署调用。
Hugging Face 上架了 TheCluster/Qwen3.5-9B-Uncensored-HauhauCS-Aggressive-MLX-mxfp4 的演示页面,模型为 Qwen 3.5 9B 的 uncensored aggressive 版本,采用 MLX mxfp4 格式。该模型目前没有被任何 Inference Provider 部署,下载量暂未被追踪。
Hugging Face 用户 jirka642 发布了 llmfan46/Qwen3.8-27B-Uncensored-Heretic-Native-MTP-Preserved 的 EXL3 量化版本,基于 Qwen/Qwen3.8-27B 微调模型。量化使用 ExLlamaV3 1.6.1 转换,提供 4.0、5.0、6.0 bits per weight(MTP4,H6,V6)三种精度。由于原仓库缺少兼容的 preprocessor_config.json,作者改用了 Qwen/Qwen3.8-27B 官方仓库的配置文件。
gdeyoung 发布了 huihui-ai/Huihui-Qwen3.8-Flash-Next-abliterated 的 EXL3 3.05bpw 整数量化包,LM 层已消融,n-gram 嵌入表、MTP 头和视觉塔与基座逐字节一致。包内 75,277 个张量为 3bpw、472 个为 5bpw、2 个为 4bpw,大小 84 GB,可在单块 GB10(128GB 统一内存)上以 262,144 token 上下文运行,实测拒绝筛查 20/20 无拒绝、thinking-off 解码约 65 tok/s、226k token 海针测试可召回。模型继承 Qwen Community License 1.0,安全过滤显著减弱,输出责任由使用者承担。
推荐理由:作者给出消融层的说明、拒绝率实测与完整量化配方,读者可据此复现这个 DGX Spark 上的去对齐部署方案。
Hugging Face 用户 ngkzngkz 发布 orcarouter/Qwen3.8-Flash-Next-Uncensored 的 strixw 格式转换版,该模型是 Qwen/Qwen3.8-Flash-Next 的 BF16 去审查版本。权重共 65.86 GiB(853 tensors),路由专家采用 Q4/G128 量化,部分组件为 Q8,n-gram 嵌入表 48.28 GiB。模型经 abliterated 处理移除拒绝方向,无内置安全护栏,遵循 Qwen Community License 1.0。
Hugging Face 上发布了 robertbschuette/Huihui-GLM-5.3-Flash-abliterated-GGUF 模型,基于 GLM-5.3-Flash 的 abliterated 版本,提供 UD-Q4_K_XL 量化格式,支持图像-文本到文本的多模态输入。页面给出了用 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner 等工具加载和部署的完整方法,llama.cpp 路线可启动 OpenAI 兼容的本地服务器。
AI-conn 在 Hugging Face 上传了 huihui-ai 制作的 Huihui-Qwen3.8-27B-abliterated-GGUF 分叉,基于 Qwen/Qwen3.8-27B,采用去除拒绝方向的 abliteration 方法,许可证为 Apache-2.0。在 20 GB 显存的 RX 7900 XT 上,推荐文件 UD-DW-Q4_K_M(15.41 GiB)8k 上下文约占 17.1 GiB、16k 约占 18.1 GiB,均可完全常驻显存。该文件是审核中唯一在 20 GB 显卡上留有 16k 上下文余量的顶级无审查版本,可通过 ollama pull 直接拉取。