LFM2.5-2.6B 的 abliterated 去审查版本发布
yuna1126 发布了基于 LiquidAI/LFM2.5-2.6B 的去审查版本,使用 Tema_Q-Abliterated v1.0.0(SCAPE 算法)从权重中消融拒绝方向。
推荐理由:原文给出了拒绝率、KL 散度和崩溃检查的实测数据,还说明该工具在纯 CPU 上即可完成去对齐搜索,可复现。
新闻、仓库与研究,按时间排列。
yuna1126 发布了基于 LiquidAI/LFM2.5-2.6B 的去审查版本,使用 Tema_Q-Abliterated v1.0.0(SCAPE 算法)从权重中消融拒绝方向。
推荐理由:原文给出了拒绝率、KL 散度和崩溃检查的实测数据,还说明该工具在纯 CPU 上即可完成去对齐搜索,可复现。
基于 Qwen/Qwen3.6-27B 的去审查(abliterated)版本已在 Hugging Face 上发布,采用 AWQ 量化并支持 MTP 投机解码。在单张 A800 80GB 上配合 vLLM 0.21.0、MTP 与 fp8 KV cache 可达 110+ tok/s,支持 65536 上下文长度。该模型大幅削减安全过滤,建议仅用于研究或受控环境。
Hugging Face 上线 Qwen/Qwen-Image-2.1 的 Uncensored GGUF 量化版本,提供 BF16、FP8、Q4_K_M 等多种格式,文件大小从 4.15 GB 到 14.23 GB 不等,推荐 Q4_K_M 以平衡体积与质量。
BoldingBuilds 发布 BAAI AREX-2(基于 Qwen3.8 的 27B agent 微调)的去对齐 GGUF 版本,将拒绝方向从 64 个权重张量(第 8-39 块)投影移除。
推荐理由:作者给出了拒绝率、工具调用和 KL 位移的实测数据,可以据此判断这次去对齐改动到底动了什么、代价多大。
Nylonek 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的 Uncensored GGUF 量化版本,提供 BF16、FP8、Q8_0、Q6_K、Q4_K_M 等多种格式,文件大小从 4.15 GB 到 14.23 GB 不等,推荐兼顾体积与质量的 Q4_K_M。
spiritfather 发布 MiMo-V2.6-Flash-MOPD-Yamz-Uncensored 的 GGUF 量化版,把 yamz-labs 的运行时去审查编辑直接烘焙进权重,使其在任意 llama.cpp 运行时无需特殊引擎即可生效。
推荐理由:原文给出了拒绝率前后对比和量化损失数据,读者可以据此判断这个去对齐版本到底去掉了多少、代价多大。
sbussiso 在 Hugging Face 发布 Llama-3.2-1B-Instruct 的 abliterated 版本,通过对 untied lm_head 权重做读出空间正交化使去拒绝编辑持久化,推理时无需 hook。
推荐理由:原文给出五组对照的拒绝率与 MMLU 损失数据,读者可以据此判断这个持久化去对齐编辑的实际代价。
GitHub 用户 macldavis04 发布了名为 llm-fundamentals-in-practice-lab 的仓库,目前尚无项目描述、主题标签和发布版本。该仓库暂无 star、watch 和 fork 数据,仅包含 README 等基础文件。
slider-meister-pub 在 Hugging Face 发布 Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated 的 IQ3_S GGUF 量化,总大小 83.74 GB(约 3.79 bpw),补上上游缺失的 IQ3_S 档位。
推荐理由:原文给出量化构建细节和消融前后拒绝率对比,硬拒绝从98/100降到0,读者可据此评估这个低比特去对齐版本。
huihui-ai 基于 abliteration 技术发布 Qwen/Qwen3.8-27B 的去审查版本 Huihui-Qwen3.8-27B-abliterated,无需 TransformerLens 即可移除模型拒绝行为。
cvgro 基于 meta-models/Muse-Glimmer-30B 使用 Heretic v2.0.0.dev0 的 Abliteration 参数制作出去审查版 GGUF 模型。
一位 VFX 艺术家在 r/LocalLLaMA 询问用于 Python 交互式编程和智能体工作流的本地 LLM 硬件方案,计划通过 MCP 连接 Blender 和 Houdini 创建场景与工具。他在考虑 2× NVIDIA DGX Spark 或配备 256GB 统一内存的 Apple M5 Ultra,用途不涉及模型训练,并征求模型质量、上下文容量与响应速度平衡的建议。
有用户在 Reddit r/LocalLLaMA 反馈,Qwen3.8 27B 在 Unsloth 上使用 Projects 时,若一轮内多次调用搜索项目文档的工具,模型会在思考中提示“本轮已多次搜索知识库,请勿再搜索”,并要求基于已检索内容作答。该用户调整工具设置和网上搜索均未解决,发帖求助如何禁用该行为。
HauhauCS 基于 Qwen3.6-35B-A3B 推出 Aggressive 无审查量化模型,0/465 拒答率,完全解锁不拒绝提示词。该模型为 MoE 架构,总参数 35B、每 token 激活约 3B,原生 262K 上下文,支持文本、图像、视频多模态。
gbuzhf 在 Hugging Face 发布 Occamy-1.0 Abliterated 的四个 Sangreal ICE 量化档位(14.51/18.47/22.52/24.53 GB),基于 SC117 的去对齐 BF16 权重,附带 Qwen-Sharp v22.5.0-arrow.3.1 聊天模板和视觉 mmproj 文件。
推荐理由:作者用同一会话的 KLD 实测把四个 ICE 档位与 SC117 同尺寸量化逐一对照,读者可按文件大小直接选档。
GitHub 仓库 Anil-matcha/awesome-uncensored-coding-models 收录社区标注为 uncensored、abliterated 或低拒绝率的编程向大语言模型,并列出 Muapi 上支持 tool calling 的候选模型 ID,如 qwen-3-8-27b-abliterated、glm-5-3-abliterated 等。
一位 Reddit r/LocalLLaMA 用户拥有 64GB 内存的 headless Halo Strix 设备,当前以 q6 量化运行 27B Swift 1.5,询问切换到 Qwen Flash 是否可行或值得。他还有一台 64GB DDR5 的迷你主机,考虑把 27B 迁移过去处理不需速度的长期项目。帖子征集社区建议,尚无结论。
Hugging Face 用户 Shihan420 发布 Qwen/Qwen-Image-2.1 的 Uncensored GGUF 量化版本,提供 BF16、Q8_0、Q6_K、Q4_K_M 等多种格式,其中 Q4_K_M(4.60 GB)被推荐为体积与质量的最佳平衡。
作者在 Hugging Face 发布了基于 Qwen3.8-27B 的多阶段微调 GGUF 量化版本,用 Heretic v1.2.0 加 ARA 方法去审查,Stage 1 拒绝率从原版 99/100 降到 0/100(KL 散度 0.0535),Stage 2 为 11/100(KL 0.0025)。
用户在 Reddit r/LocalLLaMA 反馈,Qwen 3.8 Flash Next(FP8、VLLM 部署)在 Pi harness 上频繁幻觉自己上下文即将耗尽,常拒绝任务或中途停止,而状态栏显示 256K 上下文仅用约 25%。模型自述是“编造数字并当作真实数据”,但问题持续出现,用户在寻求原因。
作者发布基于 Abliterix SOM 方法对 Qwen3.5-2B 去审查后的 Q4_K_M 量化版本,选用综合表现最优的 Trial #107,拒绝率 0.49%(2/408),KL 散度 0.2686 nats/token。
推荐理由:原文给出各拒绝率档位的 Pareto 最优解及 KL 散度数据,读者可据此比较不同去审查配方的拒绝率与知识损伤权衡。
jessedye90 发布 qwen3.8-flash-next-swift-uncensored,在 UkisAI Swift 1.5 对 Qwen3.8-Flash-Next 的 INT4 W4A16 微调权重内投影掉拒绝方向,文件布局、大小和推理速度与基座一致。
推荐理由:原文给出量化网格内消融的具体做法和 AdvBench、代码任务等前后实测对比,可据此评估去对齐的代价。
KilltheSniper 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,在已量化的 ISTA-DASLab GSQ-RCO 权重内直接移植 144 个张量(覆盖全部 48 层)实现去对齐,不重算任何 GSQ 学到的量化值,消融源为 orcarouter 的 Uncensored 版本。
推荐理由:原文给出逐张量 blake2b 校验和 Strata 实测速度对比,读者可以据此判断这种免重量化的张量移植方案损失了多少。
jessedye90 发布 qwen3.8-27b-swift-uncensored,在 UkisAI 的 Swift 1.5 对 Qwen3.8-27B 的 NVFP4/FP8 量化微调基础上,将 OrcaRouter 消融得到的拒绝方向从权重中投影移除,编辑在原量化网格内完成,文件布局、大小和推理速度与基座一致。
推荐理由:原文给出消融方向、量化网格内编辑方法和 AdvBench 拒绝率 100% 到 0% 的实测对比,可据此评估该去对齐版本的实际改动幅度。
AzynTT 在 Hugging Face 发布 Kimi K3(2.8T 参数 / 104B 激活 / 896 experts top-16)的 abliterated GGUF 量化 IQ1_S-XS,共 539.7 GiB、34 分片,将拒绝方向从写入残差流的 279 个张量中正交化移除。
推荐理由:原文给出拒绝率、过度拒绝、答非所问三率实测和完整消融方法,还如实标注样本量不足的统计局限。
DarkRomeo88 在 Hugging Face 发布面向 ComfyUI 重打包的 Qwen3.5-9B-UNCENSORED-Heretic 去审查模型文件,提供 INT8_convrot、W4A8、W6A8 三种版本,需放入 ComfyUI/models/text_encoders/ 目录,已在 ComfyUI v0.38+ 上测试可用。
StillDeadcode 发布 Qwen3.8-Flash-Next 的无对齐版本,消融了原模型的拒绝方向,打包为单一 .rad 容器用于 radiance 推理引擎(AMD RDNA4、ROCm)。
推荐理由:模型卡不仅宣布去对齐,还给出与 bf16 原始权重的全词表 KL 散度和 top-1 一致率数据,可据此评估量化误差。
huihui-ai 基于 yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF 制作并发布 abliterated 去审查版 GGUF 模型,整个消融过程完全使用 llama.cpp 完成,不依赖 Transformers。
huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝回复,发布无审查版 Huihui-Qwen3.8-27B-abliterated-GGUF,仅对 22 至 52 层(0 起始索引)做消融,其余层保持原样。
orcarouter 在 Hugging Face 放出 Qwen3.8-Flash-Next 的去对齐(abliterated)GGUF 量化版本,覆盖 2-bit 到 8-bit,供 llama.cpp 运行。
推荐理由:原文给出消融后拒绝率从64-100%降到约0-3.3%、能力与基线差±2分以内的实测数据,并说明各量化的取舍。
Hugging Face 用户 yomie4343 发布 Qwen3.8-Flash-Next-Uncensored 的 MLX Sushi 混合 3/4/8bit(group size 64)加 BF16 SSD Ngram 仓库,全部 115 个文件经哈希校验完成上传,总大小约 156.93GiB,其中 ngram_table.bin 单文件 102.4GB。
GitHub 用户 jianqianggu 开源的 llm 仓库提供 Cloudflare Quick Tunnel 实时端点,用于访问 Ollama、LiteLLM Proxy 和 Unsloth Studio。仓库包含 endpoints.json、llm_observability.py 及 status.html 等文件,当前无 star 与 fork。
OS-Software 发布 Prism ML 的 Ternary-Bonsai-2-27B 的去对齐版本 Ternary-Bonsai-2-27B-Uncensored-Heretic-v2-GGUF,通过在三元权重中烘焙 OT-Ridge LoRA 实现去对齐,是 v1 的继任版本。
推荐理由:作者给出了v1与v2的拒绝率和MMLU、HumanEval能力损失对比,可据此评估这版去对齐的改善程度与代价。
HauhauCS 基于 Qwen3.5-4B 推出去审查的 Aggressive 变体,在 0/465 拒答测试下完全去除拒绝回复且不损失原始能力,提供 BF16(7.9 GB)至 Q4_K_M(2.6 GB)多种 GGUF 量化。
Pwdz-1 Uncensored 是基于 GLM-5.3-Flash 架构的 320B 级稀疏 MoE 多模态模型,原生视觉塔支持图文输入,上下文窗口达 1,048,576 token,经无拒绝微调可直答不回避。
Hugging Face 用户发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 4.05 bpw EXL3 量化版本,基于修正后的 BF16 源权重以 strength1.0 消融后量化,包含 MTP、视觉和 n-gram 表。
发布 Swift-Qwen3.8-27B 的 abliterated 无对齐版本,采用 orcarouter/Qwen3.8-27B-Uncensored 的单方向拒绝消融方法,从权重差异中恢复拒绝方向后投影到 Swift 的 131 个张量。
推荐理由:原文给出拒绝率与 KL 散度的前后对照数据,以及恢复拒绝方向并投影到 Swift 权重的完整方法,可复现性较强。
Hugging Face 用户发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 3.05 bpw EXL3 量化版本,基于修正后的 BF16 源权重以 strength1.0 消融后重建,包含 MTP、视觉和 n-gram 表,无需运行时消融 hook。
Hugging Face 上发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 5.05 bpw EXL3 量化版本,基于修正后的 BF16 源权重以 strength1.0 消融后量化,包含 MTP、视觉和 n-gram 表,无需运行时消融 hook。
minas2025 基于 Gemma 4 E2B 的 Heretic-abliterated 版本发布对话向微调模型,经 1,000 步 QLoRA 训练并量化为 GGUF,Q8_0 文件约 5.1 GB,可在 llama.cpp、LM Studio、KoboldCpp 等本地运行。