方向
去对齐、无审查、abliterated 与 base 原始权重模型的发布与实测。重点是有拒绝率对比、消融方法与可复现证据的那一部分，而不是只在名字里写了 uncensored 的。
247 条精选近 30 天 244 条共收录 826 条
Harsha001 在 Hugging Face 发布 LTX-2.5 22B dev 的去审查版 ROCmFPX GGUF 权重，供 stable-diffusion.cpp 在 AMD GPU 上运行。视频 transformer 为 Q4_0_ROCMFP4 4 位格式，Gemma 4 12B 文本编码器经 Heretic 拒绝编辑去审查，拒绝率从 99/100 降到 6/100（KL 散度 0.12），只编辑第 24-39 层的注意力输出投影，并将该差异以 FP32 合入 Lightricks 调优权重，其余张量逐位保留。
推荐理由：作者给出拒绝率前后对比和逐张量差异统计，还解释了为何文本编码器不用 4 位量化，方法可复用。
作者发布了 google/gemma-3-12b-it 的无审查 abliterated v2 版本，提供 1B、4B、12B、27B 多种规格的 GGUF 量化。新版本以更高精度针对拒绝行为，通过对比有害与无害样本的残差流计算拒绝方向并对 o_proj 等模块的隐状态做正交化，权重因子服从带峰值层的正态分布，支持分批迭代正交化或累积拒绝方向以节省显存；评测结合词典方法与 NousResearch/Minos-v1，目标是接受率大于90%且输出保持连贯，并建议使用 temperature=1.0、top_k=64、top_p=0.95 的生成参数。
推荐理由：作者给出了消融的具体实现方法和以接受率大于90%为目标的评测方式，可据此了解这一版去对齐权重的做法。
alesha-pro 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 abliterated Strata GGUF 量化包，含 S 和 S-small 两种规格，基于 Mirai 的 2-bit trellis 构建，用 huihui-ai 的拒绝方向向量去除拒绝行为。实测 AdvBench 64 条提示中 stock 版拒绝 64 次、加向量后仅 1 次，Alpaca 无害提示基本不受影响。可在 1-2 张 RTX 3090 上运行，S 版解码 82-113 tok/s，支持最高 262144 上下文，需 Linux、CUDA 12.8+ 和约 64 GB 内存。
推荐理由：作者实测了加拒绝向量前后的拒绝数和各档速度内存数据，读者可以据此判断这个去对齐量化包的实际表现。
sysop1122 在 Hugging Face 发布 Qwen3.8-Flash-Next-Uncensored 的 NVFP4 量化版，将 OrcaRouter 的消融 BF16 权重按 Primitive 的 experts-only RTN 方案打包，路由专家为 NVFP4 group 16，51B PLE n-gram 表保持 BF16 以支持 VLLM_PLE_CPU_OFFLOAD。消融沿用 Arditi et al. (2024) 的拒绝方向移除，仅编辑 149 个残差写入张量，未改动视觉塔、MoE 路由和 gate_up_proj；该版本未重跑 AdvBench/HarmBench 评分，仅做了文本、视觉 OCR 和工具调用解析的抽查。
推荐理由：模型卡给出了消融编辑的具体张量清单和 DGX Spark 实测吞吐数据，读者可据此判断去对齐程度与单卡部署成本。
neko-legends 发布 DeepSeek-V4.1-Flash-1017 的无对齐 EXL3 2.9bpw 打包，基于 dealignai 的 abliterated 版本，将 54 个稠密 BF16 矩阵重编码为 EXL3 trellis 以适配 TensorFold Zig TP4 引擎，可在 4× NVIDIA DGX Spark 上运行。评测显示去对齐代价集中在道德判断，moral_scenarios 从 95.5% 降至 40.9%，而 HumanEval chat 成绩 92.68% 反高于官方版；另提供 3.5bpw 兄弟版本，moral_scenarios 略高但解码慢约 10%。
推荐理由：原文给出 MMLU 与 HumanEval 的前后对照，显示去对齐的代价集中在道德判断而非知识或编码能力。
arXiv 论文 2610.26595 研究越狱攻击成功率（ASR）对比高度依赖响应生成与判定方式，用 3 个开放权重模型、8 种攻击和 3 种评测流程做实证。低资源语言攻击在关键词匹配下平均 ASR 达 96.0%，改用按 StrongRELECT 说明的 Qwen3 评测器则仅 2.7%；同一请求在 Ollama 默认温度 0.8 下采样 100 次，关键词匹配下 ASR 为 100% 而 Qwen3 评测器为 50%。作者建议明确成功定义、对齐响应预算、验证评测器，并报告重复交互下的累积失败率。
推荐理由：论文用具体数据说明越狱成功率如何随评测方法剧烈变化，对任何人引用 ASR 榜单前都是可迁移的核查思路。
DavidAU 与 Nightmedia 发布基于 Qwen3.5-9B 的多阶段微调合并去对齐模型 Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic，提供 16bit 源权重及 NEO IMATRIX 常规与 MTP GGUF 量化。作者称该模型在 7 项基准上超过 Qwen3.5-9B 与 Qwen3.5-27B，ARC-C 达 0.649（bf16）；去对齐方面 KL 散度 0.0793，100 次请求中拒绝 6 次（原模型 100 次），支持 256k 上下文与视觉（需另下 mmproj 文件），MTP 量化在 5090 上 Q4_K_S 可超 185 t/s。
推荐理由：作者给出 KL 散度和 100 次请求中 6 次拒绝的实测数据，可对照原模型判断去对齐程度。
dealignai 基于 LibertAI 的 EXL3 3.5bpw 量化包（257.6 GB）发布 DeepSeek-V4.1-Flash-1017 无对齐版本，移除拒绝行为，支持 6 种语言、131K 上下文，保留视觉权重、MTP 头与 n-gram 表。实测 HarmBench-320 在 chat 与 thinking 模式均 320/320 全部 COMPLY，MMLU-500 从 67.60% 降至 64.80%（-2.80 pp）。在 RTX PRO 6000 上经 exllamav3-anemone + TabbyAPI 实测约 55 tok/s 解码，并建议如需更低比特应重新跑 abliteration 流程而非直接重量化。
推荐理由：原文给出 MMLU 与 HarmBench 的前后对照数据，读者可以据此评估这个去对齐版本在拒绝率与能力之间的取舍。
xtools-at 基于 Qwen3.5-9B-Claude-3xMerge（Qwythos-9B-v2、Qwen3.5-9B-Fable-5-v1 与 Qwopus3.5-9B-Coder 的线性加权合并）发布去对齐版本，使用 Heretic v2.0.0.dev0 的 Arbitrary-Rank Ablation 处理第 16-23 层。实测拒绝率从原模型的 99/100 降至 1/100，KL 散度为 0.0205，并在 reproduce 目录提供复现说明。模型声明 Apache-2.0 许可，合并检查点本身无独立基准结果，源模型评测数据不可直接归因于该合并版本。
推荐理由：原文给出 Heretic 消融参数与拒绝率前后对比，去对齐效果可复现可查证。
nofacedfl 发布基于 Xiaomi 约 1 万亿参数 MiMo-V2.6-Pro 的 abliterated "heretic" 基座的约 2-bit 量化版（300 GB，GGUF 分片），适配 Maya 引擎并带独立视觉塔，MIT 许可。实测在 5× RTX 4090 48 GB + 2× A100 40 GB 上代码生成 71–75 tok/s、200K 上下文 38–40 tok/s，支持 512K 上下文与约 1.6 秒的图像输入；abliterated 基座在该量化下 40 道 JailbreakBench 请求仍拒答 24 题，运行时拒绝向量可将拒答降到 1–5/40 但会增加编造答案，暂未随包发布。
推荐理由：原文给出拒绝率实测数据，abliterated 基座经量化后 40 题仍拒答 24 题，读者可据此判断去对齐的实际程度。
Reddit 用户 /u/FlowDue7702 发文分析 Gemini 4 Argon 的过滤机制，指出存在输入拦截、隐藏指令注入和输出分类器三层过滤，底层模型比拒绝表现更少审查。通过 countTokens 与实际请求的 token 数对比可识别注入：+55 为 companion 指令、+419 为 jailbreak 指令、+701 为第三类未知指令；在 preset 末尾以 user 角色加两句声明可在多数测试案例中把 +419 降为 +0，但输出过滤器仍可能截断回复。测试基于官方 Gemini API 和 OpenRouter。
推荐理由：作者用 countTokens 对比实测出 Gemini 4 Argon 的注入指令类型与 token 差值，并给出可复现的两句绕过写法。
junmo-k 在 Hugging Face 发布 Piecrust/GLM-5.3-Flash-FP4-Abliterated 的 MLX 重打包，基于 NVIDIA 的 NVFP4 量化版 GLM-5.3-Flash（320B 总参数、约 18B 激活），对第 15-36 层的 44 个矩阵施加 rank-1 拒绝方向编辑。在 Apple M5 Ultra 256GB 上实测，去对齐编辑相对未编辑版本 NLL 高 0.46%，解码慢 12-24%，峰值内存多约 13GB；相对作者自己的 158GiB JK v4 版 NLL 低 1.47%。加载需 14 行 oMLX 补丁以支持每专家 weight_scale_2。
推荐理由：作者给出消融方法细节和与未编辑版本的 NLL、速度、内存对照数据，可据此评估这次去对齐编辑的实际代价。
IndrasMirror 发布 DeepSeek-V4.1-Flash-1017 的 XQ 混合精度量化版，552B 参数 MoE 压缩到 152 GB，可在 RTX 4090（24 GB）加 90 GB 内存的家用 PC 上运行，需配合自研 Xolotl 引擎而非 llama.cpp/Ollama。模型带 rank-2 拒绝方向编辑（manifest id adea0515bbf69a0b），拒绝探针显示 chat 模式 0/100、think 模式 0/50 拒绝；8K 预填充 239.8 tok/s，解码 12–13 tok/s。短 Gauntlet 测试 2/5，比作者此前 V4.1 v2 量化版（4/5）有回退，原因尚未定位；校准后重做的 V3 版本正在上传。
推荐理由：作者给出了拒绝探针、困惑度和速度的实测数据，还说明了量化分配与拒绝方向编辑的具体做法，可据此评估这个本地化版本。
zjj1993 发布 Qwen3.8-Flash-Next 的 china-v1 审查方向文件，在推理时对第 4 到 44 层投影去除中国政治敏感话题的拒答与宣传口径，原权重不变、无需训练、可按请求开关。192 题评测显示敏感话题拒答率从 58% 降到 2%，校准回答从 11% 升到 56%；质量对照中 Agentic 任务 34/34 持平，HumanEval+ 156 对 155、GSM8K 50 对 49、MMLU 96 对 97。方法用 30 组中英对照对比对提取各层方向，已在 Strata 生产环境验证，llama.cpp 原生 --control-vector 因是加向量而非投影不能复现结果。
推荐理由：原文给出审查方向的构造方法、192 题评测和 paired 质量对照，读者可自行判断去审查效果与能力损失。
dealignai 发布 GLM-5.3-ABLITERATED-FP8 v2，对 GLM-5.3-FP8 做权重级去审查，仅修改 bf16 residual writer 张量、不动 FP8 专家，可在原版 vLLM 上以 Hopper 原生 FP8 速度运行。v2 修复了 v1 在约 2% 高难度提示上的推理循环问题，HB-320 上 GARBAGE 降为 0，非版权危害面 TRUE_COMPLY 达 91.7%（off），代价是整体 TRUE_COMPLY 下降约 4pp；MMLU 87.43%，较基线 +1.85pp。附 TP8 H200 部署配置与 reasoning_effort 只认 low/high 等运行注意事项。
推荐理由：发布方给出了 MMLU 与 HarmBench-320 的前后对照数据，v2 版在消除推理循环的同时保留了约 87% 的 MMLU 水平。
IndrasMirror 发布 DeepSeek-V4.1-Flash-1017 的 GSQ 混合层级量化无对齐版本，552B 参数 MoE 压缩到 152 GB，可在 RTX 4090（24 GB）加 90 GB 内存的家用 PC 上以 12–13 tok/s 解码运行。模型对专家采用 ternary/2-bit/3-bit 混合量化（平均 2.093 bpw），并施加 mrfakename 风格的 rank-2 拒绝方向编辑；行为探针显示 chat 模式 100 个有害与 100 个安全样本均 0 次拒绝，think 模式同样 0 次拒绝。
推荐理由：卡片给出了量化前后困惑度对比、拒绝探针和速度实测数据，读者可以据此判断这个 152 GB 版本在消费级硬件上的真实质量。
huginnfork 发布基于 local-inference-lab/Qwen3.8-Flash-Next-FLARE 的 abliterated 版本，对 25,188 个张量中的 24,576 个做了拒绝方向编辑，属于不完整编辑。在 16 条提示词、协议 A（关闭思考）下，未编辑母模型拒绝率 100%，该版本为 18.8%，完整参考版为 0%；作者提醒 n=16 区间较宽，残余拒绝来自未编辑的 612 个注意力、共享专家和嵌入张量。
推荐理由：原文给出拒绝率实测和未编辑张量清单，读者可以据此判断这个不完整消融版本到底去掉了多少对齐。
Lygodactylus 在 Hugging Face 发布 Qwen/Qwen3.8-Flash-Next 的 abliterated 去对齐 BF16 全精度权重，按 Arditi et al. (2024) 方法从残差流中正交化移除拒绝方向，共编辑 149 个残差写入张量，保留完整视觉与视频塔（333 个 visual.* 张量）和 MTP 头。
推荐理由：原文给出按 Arditi et al. 2024 方法消融拒绝方向后的拒绝率与能力对比数据，读者可据此评估这个去对齐版本的实际代价。
huginnfork 发布 Qwen3.8-Flash-Next-NVFP4-Abliterated v4 的 CSF 压缩容器，比原版小 3.58 GB，权重与 v4 逐位一致。消融在量化网格上原位进行，rank-1 拒绝方向取自第 46 层、alpha=1.0，共编辑 25,188 个张量；有害拒绝率从母模型的 136/136 降到 0/136，过度拒绝从 4/59 降到 0/59，GPQA 差异不显著（p=0.286）。需带 NVFP4-CSF reader 的 vLLM 源码构建才能加载，作者提醒该模型拒绝行为被有意降低，部署时需自备安全措施。
推荐理由：原文给出rank-1拒绝方向消融的具体参数和与母模型的有害拒绝率对照数据，读者可据此评估这个去对齐版本的实际改动幅度。
candor-lab 用自研权重编辑工具 Candor 移除了 IFM 的 K2-Horizon-7B 的拒绝行为，以单个 Q4_K_M GGUF（5.59 GB）发布在 Hugging Face，Apache 2.0 协议。288 个 StrongREJECT 有害提示的拒绝数从原版 287 降到 3，300 个 Alpaca 无害提示拒绝数从 2 降到 0，KL 散度 0.052，GSM8K 正确数 1222 对 1209，均在噪声范围内。编辑为 rank-3 修改，覆盖 61 个输出矩阵；搜索的 313 次试验和最终评测均在 llama.cpp 中开启 thinking、reasoning effort high 下完成，前两名候选曾因数学成绩下降或思考预算耗尽被淘汰。
推荐理由：原文给出拒绝率、KL 散度和 GSM8K 的前后对照数据，读者可以据此判断这次权重编辑到底去掉了什么、损失了多少。