atlas-institute 发布 qwen3-14b-orchestrator-abliterated GGUF 模型
atlas-institute 在 Hugging Face 上发布 abliterated 版 Qwen3 14B orchestrator 模型,提供 Q4_K_M 量化的 GGUF 格式。
新闻、仓库与研究,按时间排列。
atlas-institute 在 Hugging Face 上发布 abliterated 版 Qwen3 14B orchestrator 模型,提供 Q4_K_M 量化的 GGUF 格式。
zuozijian 发布 JonathanColetti/Qwen3.8-27B-Uncensored 的 NVFP4 量化版,用 NVIDIA TensorRT Model Optimizer 0.43.0 制作。
推荐理由:原文给出分层量化取舍与双节点 DGX Spark 实测吞吐数据,部署参数和踩坑记录可直接复用。
Hugging Face 用户 Shihan420 发布 Qwen/Qwen-Image-2.1 的 Uncensored GGUF 量化版本,提供 BF16、Q8_0、Q6_K、Q4_K_M 等多种格式,其中 Q4_K_M(4.60 GB)被推荐为体积与质量的最佳平衡。
作者在 Hugging Face 发布了基于 Qwen3.8-27B 的多阶段微调 GGUF 量化版本,用 Heretic v1.2.0 加 ARA 方法去审查,Stage 1 拒绝率从原版 99/100 降到 0/100(KL 散度 0.0535),Stage 2 为 11/100(KL 0.0025)。
Chuncho32 在 Hugging Face 上将 DavidAU/Mistral-Nemo-2407-12B-Thinking-Claude-Gemini-GPT5.2-Uncensored-HERETIC 转换为 Q8_0 GGUF 格式,转换通过 llama.cpp 的 ggml.ai GGUF-my-repo 空间完成。
Humberto16 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段微调 GGUF 量化版,8bit ARC-C 达 0.735、ARC-E 0.882,4bit ARC-C 0.719,均高于原版 Qwen3.8-27B(8bit ARC-C 0.591)。
同一新闻,精选展示《TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版,ARC-C 达 735》
作者发布基于 Abliterix SOM 方法对 Qwen3.5-2B 去审查后的 Q4_K_M 量化版本,选用综合表现最优的 Trial #107,拒绝率 0.49%(2/408),KL 散度 0.2686 nats/token。
推荐理由:原文给出各拒绝率档位的 Pareto 最优解及 KL 散度数据,读者可据此比较不同去审查配方的拒绝率与知识损伤权衡。
jessedye90 发布 qwen3.8-flash-next-swift-uncensored,在 UkisAI Swift 1.5 对 Qwen3.8-Flash-Next 的 INT4 W4A16 微调权重内投影掉拒绝方向,文件布局、大小和推理速度与基座一致。
推荐理由:原文给出量化网格内消融的具体做法和 AdvBench、代码任务等前后实测对比,可据此评估去对齐的代价。
KilltheSniper 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,在已量化的 ISTA-DASLab GSQ-RCO 权重内直接移植 144 个张量(覆盖全部 48 层)实现去对齐,不重算任何 GSQ 学到的量化值,消融源为 orcarouter 的 Uncensored 版本。
推荐理由:原文给出逐张量 blake2b 校验和 Strata 实测速度对比,读者可以据此判断这种免重量化的张量移植方案损失了多少。
jessedye90 发布 qwen3.8-27b-swift-uncensored,在 UkisAI 的 Swift 1.5 对 Qwen3.8-27B 的 NVFP4/FP8 量化微调基础上,将 OrcaRouter 消融得到的拒绝方向从权重中投影移除,编辑在原量化网格内完成,文件布局、大小和推理速度与基座一致。
推荐理由:原文给出消融方向、量化网格内编辑方法和 AdvBench 拒绝率 100% 到 0% 的实测对比,可据此评估该去对齐版本的实际改动幅度。
AzynTT 在 Hugging Face 发布 Kimi K3(2.8T 参数 / 104B 激活 / 896 experts top-16)的 abliterated GGUF 量化 IQ1_S-XS,共 539.7 GiB、34 分片,将拒绝方向从写入残差流的 279 个张量中正交化移除。
推荐理由:原文给出拒绝率、过度拒绝、答非所问三率实测和完整消融方法,还如实标注样本量不足的统计局限。
DarkRomeo88 在 Hugging Face 发布面向 ComfyUI 重打包的 Qwen3.5-9B-UNCENSORED-Heretic 去审查模型文件,提供 INT8_convrot、W4A8、W6A8 三种版本,需放入 ComfyUI/models/text_encoders/ 目录,已在 ComfyUI v0.38+ 上测试可用。
StillDeadcode 发布 Qwen3.8-Flash-Next 的无对齐版本,消融了原模型的拒绝方向,打包为单一 .rad 容器用于 radiance 推理引擎(AMD RDNA4、ROCm)。
推荐理由:模型卡不仅宣布去对齐,还给出与 bf16 原始权重的全词表 KL 散度和 top-1 一致率数据,可据此评估量化误差。
huihui-ai 基于 yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF 制作并发布 abliterated 去审查版 GGUF 模型,整个消融过程完全使用 llama.cpp 完成,不依赖 Transformers。
huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝回复,发布无审查版 Huihui-Qwen3.8-27B-abliterated-GGUF,仅对 22 至 52 层(0 起始索引)做消融,其余层保持原样。
Comfy-Org 在 Hugging Face 上发布了 Qwen-Image-2.1 的 ComfyUI 重打包模型文件,提供 bf16、int8_convrot 等量化版本。
jialinyyzz 在 Hugging Face 发布 12B 改写模型 humanizer v2(微调自 google/gemma-4-12B,Apache 2.0),用于把 AI 生成的邮件、论文、报告等草稿改写成人类风格,支持中英文并可本地运行。
推荐理由:作者给出与上一版在同一批草稿上的对照数据和分体裁检出率,可据此评估这版改写在事实保真和检测表现上的实际变化。
orcarouter 在 Hugging Face 放出 Qwen3.8-Flash-Next 的去对齐(abliterated)GGUF 量化版本,覆盖 2-bit 到 8-bit,供 llama.cpp 运行。
推荐理由:原文给出消融后拒绝率从64-100%降到约0-3.3%、能力与基线差±2分以内的实测数据,并说明各量化的取舍。
Unsloth 在 Hugging Face 发布 Qwen3.8-27B 的 Dynamic V3.0 GGUF 量化版本,称同等体积下精度比其他所有 GGUF 提供方高出逾 10%。
推荐理由:原文给出了 Dynamic v3.0 量化在同等体积下与其他 GGUF 提供方的精度对比,以及 27B 密切模型的完整架构与部署参数。
Hugging Face 用户 yomie4343 发布 Qwen3.8-Flash-Next-Uncensored 的 MLX Sushi 混合 3/4/8bit(group size 64)加 BF16 SSD Ngram 仓库,全部 115 个文件经哈希校验完成上传,总大小约 156.93GiB,其中 ngram_table.bin 单文件 102.4GB。
burningfeet 在 Hugging Face 发布 Qwen3.6-35B-A3B-Uncensored-Genesis-Final 的 SafeTensors/BF16 重建版,由 MarMix 从 Q8_K_P GGUF 转换而来,非原始无损 BF16 权重,缺失的 vision/MTP 张量复制自 Qwen/Qwen3.6-35B-A3B。
HauhauCS 基于 Qwen3.5-4B 推出去审查的 Aggressive 变体,在 0/465 拒答测试下完全去除拒绝回复且不损失原始能力,提供 BF16(7.9 GB)至 Q4_K_M(2.6 GB)多种 GGUF 量化。
Pwdz-1 Uncensored 是基于 GLM-5.3-Flash 架构的 320B 级稀疏 MoE 多模态模型,原生视觉塔支持图文输入,上下文窗口达 1,048,576 token,经无拒绝微调可直答不回避。
Hugging Face 用户发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 4.05 bpw EXL3 量化版本,基于修正后的 BF16 源权重以 strength1.0 消融后量化,包含 MTP、视觉和 n-gram 表。
MarMix 在 Hugging Face 上架 Qwen3.6-35B-A3B-Uncensored-Genesis-Final-Safetensors-MLX-4bit,为 35B 参数模型的 MLX 4bit 量化版本,张量类型为 U32、BF16 与 F32。该模型目前未部署到任何 Inference Provider,月下载量为 12。
shefowl 发布了 Qwen3.8-Flash-Next 的混合精度 GGUF,非专家张量取自 SC117 的 IQ3_XXS 档、路由专家张量取自 Q2_0 档,逐字节复制未重新量化,权重为上游已去拒绝的 abliterated 版本。
推荐理由:作者给出了与 IQ3_XXS 和 Q2_0 档在困惑度、解码速度和内存占用上的实测对比,可据此权衡这套混合量化的取舍。
发布 Swift-Qwen3.8-27B 的 abliterated 无对齐版本,采用 orcarouter/Qwen3.8-27B-Uncensored 的单方向拒绝消融方法,从权重差异中恢复拒绝方向后投影到 Swift 的 131 个张量。
推荐理由:原文给出拒绝率与 KL 散度的前后对照数据,以及恢复拒绝方向并投影到 Swift 权重的完整方法,可复现性较强。
Hugging Face 用户发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 3.05 bpw EXL3 量化版本,基于修正后的 BF16 源权重以 strength1.0 消融后重建,包含 MTP、视觉和 n-gram 表,无需运行时消融 hook。
mradermacher 在 Hugging Face 上发布 Qwopus3.8-27B-Flash-V2-abliterated 的 GGUF 量化版本。
Ars14n 在 Hugging Face 发布 dealignai/GLM-5.3-UNCENSORED-FP8 的 EXL3 量化版(3.04 bpw,273 GiB),上游是对 zai-org/GLM-5.3 做权重编辑(非微调)的去对齐变体。
推荐理由:作者给出了量化前后的 KL 散度和 tau2-bench 对照数据,并指出 glm4_5 解析器会把字符串参数误转整数导致约七成工具调用失败。
Hugging Face 上发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 5.05 bpw EXL3 量化版本,基于修正后的 BF16 源权重以 strength1.0 消融后量化,包含 MTP、视觉和 n-gram 表,无需运行时消融 hook。
Hugging Face 提供 abliterated 版 GLM-5.3-Flash 的 GGUF 量化模型(如 UD-Q4_K_XL)的多框架使用方法,涵盖 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker 等部署方式,并给出 OpenAI 兼容 API 的本地服务器启动与调用示例。
minas2025 基于 Gemma 4 E2B 的 Heretic-abliterated 版本发布对话向微调模型,经 1,000 步 QLoRA 训练并量化为 GGUF,Q8_0 文件约 5.1 GB,可在 llama.cpp、LM Studio、KoboldCpp 等本地运行。
Pwdz-2 Abliterated 基于 GLM-5.3-Flash 架构的 320B 级稀疏 MoE 模型,通过权重空间消融移除拒绝行为,保留完整推理与指令遵循能力。
jam2778 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的 Uncensored GGUF 量化,基于原始上游权重,提供 BF16、Q8_0、Q6_K、Q4_K_M 等多档文件,Q4_K_M(4.60 GB)为推荐版本,无内置安全审查,可直接生成成人及 NSFW 图像。
huihui-ai 基于 Qwen/Qwen3.8-27B 用 abliteration 技术制作去审查版 GGUF 模型,仅对部分层(如 22 至 52 层)做消融,MTP 与视觉部分未改动。
xtonousou 在 Hugging Face 上发布 Qwen3.6-Deckard-40B-Uncensored,将 Qwen 3.6 27B 稠密扩展至 40B 参数,先经 Heretic 完全去审查,再用 Deckard/PDK 数据集和 Claude 4.6 Opus 蒸馏数据经 Unsloth 训练。
dealignai 团队发布 DeepSeek-V4.1-Flash 的 abliterated 无对齐版本,量化为 EXL3 2.9bpw,约 197 GiB,可在两台 DGX Spark (GB10) 上以 TP=2 部署。
推荐理由:原文给出 HarmBench 拒绝率与 MMLU 全量对比,量化了能力损失集中在伦理子集,读者可自行评估取舍。
SC117 在 Hugging Face 发布 Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,通过字节级张量移植移除拒绝方向。
同一新闻,精选展示《Qwen3.8-Flash-Next GSQ-RCO 消融版 GGUF 发布:144 个张量移植保留上游量化布局》
xannie1 在 Hugging Face 发布 Qwen3.8-27B RVN Heretic Abliterated Uncensored GGUF,在 trohrbaugh 的 heretic-ara 基础上追加两轮全权重 ARA 消融,有害提示拒绝率从 3/100 降至 0-1/100,KL 损伤从 0.0535 降到 0.0085。
推荐理由:原文给出两轮 ARA 消融后的拒绝率与 KL 前后对比数据,并附各量化的 PPL 和 MTP 实测速度,便于按硬件选文件。