root4k 发布 Huihui-Qwen3.8-Flash-Next-abliterated-oQ4e-mtp 量化模型
root4k 在 Hugging Face 上发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 oQ4e-mtp 量化版本,采用 oQ(oMLX v0.7.0)混合精度量化。模型类型为 qwen4_exp,4 bit、group size 64,格式为 MLX safetensors。
新闻、仓库与研究,按时间排列。
root4k 在 Hugging Face 上发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 oQ4e-mtp 量化版本,采用 oQ(oMLX v0.7.0)混合精度量化。模型类型为 qwen4_exp,4 bit、group size 64,格式为 MLX safetensors。
Dacheng-cn 基于 OrcaRouter 源模型的原始 BF16 权重重新量化出 Qwen3.8-27B-Uncensored oQ8e FP16 版本,权重约 30.92 GB,保留 MTP 的 29 个 Tensor,在 M1 Ultra 上使用 oMLX 0.7.0 正式版测试。
fyb1214 将 huihui-ai 的 abliterated Ternary-Bonsai-2-27B(消融第 22–52 层)重新封装为 NInfer 引擎可读的单文件 .ninfer 容器,基于 f16 版本用量化器重制 PQ2_0 与 PTQ1_0 两种打包,各 6.87 GiB,类型分布与 PrismML 原版 PQ2_0 一致。
HauhauCS 发布 Qwen3.8-27B-Uncensored-Aggressive 的 imatrix 优化 NVFP4 量化版本(Q5_NVFP4),体积从 Q5_K_P 源文件的 18.83 GiB(5.92 BPW)降至 14.74 GiB(4.63 BPW),约缩小 22%。该版本保留了原生 MTP/NextN 头、视觉能力和完整 Aggressive 去审查配置,LM head(output.weight)首次做了 imatrix 优化。模型针对 Blackwell(sm_120)GPU 原生加速构建,但文件为标准 GGUF,可在任意当前 llama.cpp 版本上加载。
ericmey 在 Hugging Face 发布 huihui-ai/Huihui-Qwen3.8-27B-abliterated 的 GPTQ-Int4(sym, G128)量化版,附带 BF16 MTP 草稿张量与 F16 视觉塔,约 19 GB,面向 vLLM Intel Arc XPU 部署,也可加载于 CUDA。
johnonegram 在 Hugging Face 发布 Offender_3.8_27B_Abliterated,基于 medismera/Qwen3.8-27B-Surgical-Abliterated 持续微调的 27B 多模态安全推理模型,总参数 26.89B,原生上下文 262,144 tokens(256K),采用 FP8 量化,磁盘占用约 26.9 GB。
Hugging Face 上发布了 Cantina Security 的 Apex Flash 1 Abliterated 的 AWQ 社区量化版,采用 GLM-5.3-Flash 架构,为专家专用 W4A16 量化(对称 INT4,group size 128),保留全部 36,288 个 routed expert projections。模型逻辑参数 313.89B,九个 Safetensors 分片约 176 GB,属实验性发布,已在修补版 GLM-5.3 SM86 vLLM 构建上通过文本生成和结构化 tool-call 冒烟测试,但长上下文、视觉等行为未经验证。上游 abliterated 版本会修改拒绝行为,仅面向获授权研究,采用 MIT 许可证。
Hugging Face 上发布 gpt-oss-120b-Uncensored 的 MXFP4 量化版本,基于 openai/gpt-oss-120b 用 LoRA 微调,移除默认安全过滤与拒绝行为,支持生成成人内容。
mradermacher 在 Hugging Face 发布 Qwen3.6-35B-A3B-Uncensored-Genesis-Final 的 imatrix 加权量化 GGUF 版本,提供从 i1-Q2_K(13.3GB)到 i1-Q6_K(29.3GB)的多种规格,其中 i1-Q4_K_S 被标注为尺寸、速度与质量的最佳平衡,i1-Q4_K_M 快速且推荐。静态量化存放在另一仓库,mmproj 文件也在该静态仓库中。
vaultai 发布 Qwen3.8-27B-Uncensored-MLX,通过 abliteration(对拒绝方向做正交化)移除安全对齐,并提供 2/4/6/8-bit MLX 量化用于 Apple Silicon。4/6/8-bit 版本拒绝探针零拒绝、数值保真度 cos 0.996 至 0.9997,视觉和 262K 上下文保留;2-bit 生成严重退化仅供存档。仓库已门控,附 mlx-vlm、LM Studio 和 MTP 投机解码用法。
推荐理由:发布方给出了各精度量化的数值保真度、拒绝探针零拒绝和视觉能力实测,读者可以据此评估每个档位是否可用。
musiccat0405 在 Hugging Face 发布 gemma-3-1b-it-heretic-extreme-uncensored-abliterated,用 Heretic v1.0.1 消融,拒绝率 3/100,KL 散度 0.33,原版 Gemma 1B-IT 拒绝率为 99/100。作者注明本次以更低拒绝率为优先目标,并给出 KL 散度更低(0.09)但拒绝率 17/100 的替代版本链接;还说明该模型不拒绝请求但部分情况需额外指令引导,并附 KoboldCpp、text-generation-webui、SillyTavern 的 smoothing_factor 等采样参数建议。
推荐理由:原文给出了 Heretic 消融前后的拒绝率与 KL 散度数据,读者可以具体对比这个去对齐版本去掉了多少、损伤多大。
SlickPulla 在 trohrbaugh/Qwen3.8-27B-heretic-ara 基础上再做两遍 ARA 消融,发布 Qwen3.8-27B RVN Heretic Abliterated Uncensored GGUF,有害提示拒绝率从 3/100 降到 0–1/100,KL 损伤从 0.0535 降到 0.0085。全部 53 个 RVN 文件内嵌官方 Qwen3.8 chat template,每个量化都附带嵌入 MTP 草稿头的孪生文件,128 token 实测平均提速约 55%,仅 IQ1_M 反而慢约 60%,IQ1_S 只提升约 4%,文档还按 8 GB 到 64 GB 显存给出了推荐文件。
TokenTinkerer 基于 HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 发布了 TTQ 十档 GGUF 量化集,从 3.33 bpw 到 6.72 bpw,全部从上游 Q8_K_P 用自建 imatrix 重量化。每档以同一机器同一协议实测 KLD/RMS 与 llama-bench 速度,每档 KLD 均优于上游仓最接近尺寸的量化 1.26× 到 3.51×,同质量档位小 1.44 到 7.90 GiB,匹配对比下 decode 快 6% 到 19%、prefill 快 28% 到 80%。
推荐理由:作者用同一协议实测十档量化的KLD、体积与速度,并给出与上游仓位的逐项对照,读者可按显存和用途挑选合适的档位。
Hugging Face 用户 GSsmart 发布 Wan2.2 GSsmart Uncensored,一套同时适配 I2V 与 T2V 的无审查 LightX2V LoRA,免去在两类模型间反复切换。T2V 下人体准确率约 80–85%,I2V 效果取决于输入图像;叠加其他 LoRA 建议用 0.55–0.65 强度,本 LoRA 需保持接近满强度否则画面易模糊。
asmaven 开源了个人 AI 分身 Jarvis,可用语音向其询问作者的产品管理、运营和 AI 智能体经验,配有动画头像,部署在 Hugging Face Spaces,端到端用 Claude Code 构建。系统用私有知识库接地、第二模型逐句核查答案、29 题发布门禁防止编造;技术栈为 Claude Opus 5 加 prompt caching、Piper 语音合成与音素级 lip-sync,作者还分享了精简 prompt 降本约 25%、移动端语音需单独适配等经验。
nyaaorick 在 Hugging Face 发布 Qwen3.8-27B-Uncensored 的 MLX 3-bit 混合精度量化版本,面向 Apple Silicon,磁盘占用 9.82 GB,平均每位权重 2.915 bit,短提示峰值内存约 10.5 GB。
dealignai 在 Hugging Face 发布 GLM-5.3-UNCENSORED-FP8,对 GLM-5.3-FP8(基于 zai-org/GLM-5.3,753B、78 层、text-only 的 glm_moe_dsa 架构)做权重级去对齐:仅修改 bf16 residual-writer 张量,FP8 专家路由不变,无微调、无 LoRA、无运行时钩子。
Hugging Face 用户 Aero2026 基于 Qwen/Qwen-Image-2.1 原始权重发布了无内容过滤的 GGUF 量化版本,可配合 ComfyUI 与 ComfyUI-GGUF 本地生成图像。提供 BF16 到 Q4_0 等多种量化,文件大小 4.15 GB 至 14.23 GB,推荐 Q4_K_M(4.60 GB)兼顾体积与质量;文本编码器 qwen3vl_8b 与 VAE 文件也打包在仓库内。该版本移除了内置安全检查器,可直接生成 NSFW 内容,采用 Qwen Research License。
mradermacher 在 Hugging Face 上发布 Qwen3.5-27B-uncensored-heretic-v1 的 imatrix 量化 GGUF 系列,提供从 i1-IQ1_S(7.2GB)到 i1-Q6_K(22.2GB)等多种规格,并附 0.1GB imatrix 文件供自行制量。
bjivanovich 在 Hugging Face 发布 Qwen3.8-27B-Uncensored-Cyber 的自定义 ATX GGUF 量化版本,在 blk.64 内嵌 MTP 草稿头,面向渗透测试、漏洞审计等进攻性安全与代码推理场景。
mradermacher 在 Hugging Face 发布了 Abliterated-Dolphin3.0-R1-Mistral-24B 的 imatrix GGUF 量化版本,提供从 i1-IQ1_S(5.4GB)到 Q6_K(19.4GB)的多种量化档位。其中 Q4_K_S(13.6GB)被称为尺寸、速度与质量的最优平衡,Q4_K_M(14.4GB)为推荐选项,并单独提供 0.1GB 的 imatrix 文件供用户自行创建量化。
Hugging Face 上架 abliterated 版 GGUF 模型 jingamin/Qwen3.8-27B-ABLITERATED-BF16.i1-Q5_K_M.gguf(Q5_K_M 量化)。
jingamin 在 Hugging Face 上提供 Qwen3.6-27B-Heretic2-Uncensored-Finetune-Thinking 的 i1-Q5_K_M GGUF 量化模型,该模型为无审查微调版本且支持思考(Thinking)。
abliterated 版 Huihui-Qwen3.8-27B 的 Q5_K 量化 GGUF 模型已在 Hugging Face 发布,基于 Qwen3.8 27B。该页面给出在 llama.cpp、Ollama、LM Studio、Docker Model Runner、Lemonade 等工具中的使用方法,可通过 llama serve -hf 启动本地 OpenAI 兼容服务器并直接推理。
Hugging Face 上架 abalogh 发布的 Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-ULTRA-HERETIC-Uncensored-oQ4e-mtp 无审查模型,为 Safetensors 格式。模型规模 28B 参数,张量类型为 U32 · BF16,目前无模型卡片、未部署到任何 Inference Provider。
nerkyor 在 Hugging Face 发布基于 Qwen3.8-27B-EfficientThink 的多轮 SFT 与 RLOO 后训练模型 Qwen3.8-27B-Coder390-EfficientThink,目标是修复原模型已有答案却反复推导直至撞上 94K 上限导致空答案的习惯。GPQA 178/198、MMLU 450/500、LCB 90/100(静态 FP8,原模型为 177/444/83),94K 截断从 GPQA 4 降到 1、LCB 13 降到 3。仓库提供 BF16、静态 FP8、NVFP4、INT8、INT4、GGUF Q2 至 Q8_0 等多档权重,均含内置 MTP,支持 SGLang 免补丁加载,并给出 DFlash2 与 MTP 两种投机解码的测速建议。
推荐理由:从模型卡给出多档量化的完整三套评测与截断对比,读者可据此判断修复后模型在精度和速度上的实际表现。
Hugging Face 上架了 jingamin 的 gemma-4-31B-it-The-DECKARD-HERETIC-UNCENSORED-Thinking 量化版 GGUF 模型(Q5_K_M)。
Gokugamer 在 Hugging Face 发布 Qwen3.8-27B 的 HauhauCS Aggressive 无对齐 GGUF 量化版,实测 0/465 次拒绝,直接作答、几乎无前导语。
推荐理由:原文给出各量化的拒绝数与 FastMTP 加速实测数据,读者可据此判断该去对齐版本的实际表现。
mradermacher 在 Hugging Face 上发布 Qwen3.5-27B-uncensored-heretic-v1 的 GGUF 静态量化版本,提供从 Q2_K(10.8GB)到 Q8_0(28.7GB)的多种量化文件,其中 Q4_K_S(15.7GB)和 Q4_K_M(16.6GB)被标注为快速且推荐,Q8_0 质量最佳。
MarMix 在 Hugging Face 上架 Qwen3.6-35B-A3B-Uncensored-Genesis-Final-Safetensors-NVFP4 模型,采用 Safetensors 格式,参数规模 36B,张量类型为 BF16 · U8。该模型目前未被任何 Inference Provider 部署,README 内容为空。
mradermacher 的 Qwen3.6-35B-A3B-Uncensored-Genesis-Final-Safetensors GGUF 量化模型现已在 Hugging Face 上线。
Hugging Face 新增模型 AX1Y2JP/UniPercept-abliterated-GGUF,提供 Q4_K_M 量化版本。该 GGUF 格式模型可通过 llama.cpp、Ollama、Docker Model Runner、Lemonade 等工具本地运行,也支持在 LM Studio、Jan 中加载。llama.cpp 可启动 OpenAI 兼容的本地服务器并提供 Web UI,也可直接在终端执行推理。
mradermacher 在 Hugging Face 上发布了 Abliterated-Dolphin3.0-R1-Mistral-24B 的 GGUF 静态量化版本,提供从 Q2_K(9.0GB)到 Q8_0(25.2GB)的多种规格,其中 Q4_K_S、Q4_K_M 标注为快速且推荐使用,Q8_0 质量最佳。weighted/imatrix 量化版本可在模型页面另行获取。
Hugging Face 上线 mradermacher/Qwen3.8-cyber-RedTeam-Surgical-Abliterated-GGUF 量化模型页面,提供 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner、Lemonade 等多种运行方式。
yuna1126 在 Hugging Face 发布基于 google/gemma-4-E2B-it 的 abliterated 去对齐版本,使用 Tema_Q-Abliterated v1.0.0(SCAPE 算法)从权重中消融拒绝方向。
推荐理由:原文给出了拒绝率、KL 散度和 SCAPE 代理目标约 49 倍加速的实测数据,读者可以据此评估这个去对齐版本的代价与工具的可复用性。
mradermacher 在 Hugging Face 上发布 Qwopus3.8-27B-Flash-V2-abliterated 的 i1-GGUF 量化版本。
ausboss 在 Hugging Face 发布 Qwen-Image-2.1-Outfit-Swap-Consistency-LoRA,让 Qwen Image 2.1 在把图片 2 的服装穿到图片 1 人物身上时保持画面原位。在 16 个未训练过的换装样本上,结果偏离从无 LoRA 的 3.6 px 降到 0.1 px,面部明显变化像素从 14.1% 降到 1.7%,背景从 10.8% 降到 0.9%;提供 step 1000/1250/1500 三个权重文件,主推 step 1000,rank 32,用 ostris/ai-toolkit 以 66 对样本训练 1500 步。不改变服装绘制质量,且保持原有姿势,需要换姿势的服装不适用。
推荐理由:作者用 16 个未训练过的换装样本给出位移、面部和背景像素级对比,读者可据此判断这个 LoRA 值不值得装进自己的 ComfyUI 工作流。
BoldingBuilds 在 Hugging Face 发布 Qwen3.8-27B-Abliterated-ThinkFix-GGUF,在移除拒绝行为之外增加一处权重行编辑,使模型完成思考后更快给出答案。
推荐理由:原文给出多种敏感提示词与代理任务的实测对照数据,可据此评估这个去对齐加推理修复版本的实际取舍。
alesha-pro 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 GSQ-RCO 量化包,收录 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四档 GGUF(逐字节复制并校验 SHA256),另附一个 480 KB 的拒绝方向向量文件,可在 Strata 引擎中运行时投影去除拒绝行为,权重保持原样。
推荐理由:原文保留原始量化权重并给出拒绝率、KL 散度和解码速度的实测数据,读者可据此评估运行时去拒绝向量对输出的实际影响。
mradermacher 在 Hugging Face 发布 Qwen3-4B-F32-BF16-3MPER0RR-abliterated 的 imatrix 加权 i1-GGUF 量化系列,共 20 余个版本,大小从 1.2GB(i1-IQ1_S)到 3.4GB(i1-Q6_K)不等,并提供 0.1GB 的 imatrix 文件供用户自行创建量化。