跳到正文
10月8日周四
  1. Hugging Face · 新模型:uncensored63

    GLM-5.3 无对齐版 EXL3 3.0bpw 量化发布

    araz4111 发布了 dealignai/GLM-5.3-UNCENSORED-FP8 的 EXL3 量化版本,平均码率 3.04 bpw,总大小 273 GiB,基于 zai-org/GLM-5.3 的权重编辑无对齐变体,架构为 GlmMoeDsaForCausalLM,753B 参数、256 路由专家(8 激活)加 1 共享专家,包含 MTP 层可作投机草稿。作者提供了 wikitext-2 上的 KL 散度与困惑度保真度数据,以及 tau2-bench 智能体评测,与 Z.ai FP8 原版差异不具统计显著性;并提示 TabbyAPI 的 glm4_5 解析器会把字符串参数 JSON 解码为整数,导致零售场景约 70% 工具调用失败,使用前需修复。

  2. Hugging Face · 新模型:uncensored67

    Muse-Glimmer-30B Uncensored 版本发布,基于 Heretic 消融原模型安全对齐

    kmnstudio101 在 Hugging Face 发布 meta-models/Muse-Glimmer-30B 的去对齐版本,使用 Heretic v2.0.0.dev0+custom 消融制作,关键词从 100/100 降至 0/100,KL 散度为 0.0375。模型卡提示安全对齐已大幅削弱,仅供研究与实验使用,避免部署到公开或面向最终用户的服务。

    推荐理由:原文列出了 Heretic 消融参数与关键词、KL 散度的前后对比,读者可以据此判断这个去对齐版本改动程度。

  3. Hugging Face · 新模型:abliterated70

    Muse-Glimmer-30B Heretic Abliterated BF16 v2 发布,拒绝率降至6.5%

    kmnstudio101 发布 Muse-Glimmer-30B-Heretic-Abliterated-BF16 v2,使用 Heretic 工具经 500 次 Optuna 试验完成消融,拒绝率从 v1 的 29% 降至 6.5%,KL 散度为 0.076。消融流程包括跨 52 层计算拒绝方向、LoRA 适配器投影去除拒绝方向并合并回基础权重。BF16 版本约需 55 GB 显存,另有 Q4_K_M 约 16 GB、Q6_K 约 22 GB、Q8_0 约 28 GB 的 GGUF 量化版本,许可证为 Apache 2.0,基础模型为 Meta Muse Glimmer 30B。

    推荐理由:原文给出 v1 到 v2 的拒绝率与 KL 散度对比数据和完整消融流程,读者可据此评估这个去对齐版本的效果与质量代价。

  4. Hugging Face · 新模型:abliterated76

    Muse-Glimmer-30B-Abliterated 发布,移除约87%安全拒绝并放出GGUF量化

    kmnstudio101 发布 meta-models/Muse-Glimmer-30B 的去消融版本,用 KL 约束(λ_KL=1.0)的 BoN 引导 LoRA SFT 将安全拒绝率从 100 降到 13/100,LoRA 仅占参数量 0.10%,随后折叠进基础权重。提供 bf16 两个 safetensors 分片(56 GB)及 Q8_0(28 GB)和 Q4_K_M(16 GB)GGUF 量化,各量化变体的 KL 均值分别为 0.1018 与 0.1444;基准评测按作者要求跳过,能力保留未重测。

    推荐理由:作者公布了完整的KL指标、拒绝率与训练配置,并说明能力未重测,读者可以据此自行评估损失程度。

  5. Hugging Face · 新模型:uncensored65

    OS-Software 发布 llm-jp-4.1-33b-thinking 的 Heretic 消融去审查版

    OS-Software 在 Hugging Face 发布基于 Heretic 消融的去审查版 llm-jp-4.1-33b-thinking,针对目标层 34–49 设置自定义参数。在 Q4_K_M 量化下,有害提示拒绝数从原版的 88/100 降至 0/100,首 token KL 散度 0.0118,MMLU 74.05%(原版 74.37%),HumanEval pass@1 93.29%(原版 94.51%)。作者声明该模型安全对齐已大幅削减,仅供安全研究与红队测试等实验用途。

    同一新闻,精选展示《OS-Software 发布 llm-jp-4.1-33b-thinking 的 Heretic 去审查 GGUF 版》

  6. Hugging Face · 新模型:uncensored72

    OS-Software 发布 llm-jp-4.1-33b-thinking 的 Heretic 去审查 GGUF 版

    OS-Software 发布了 llm-jp/llm-jp-4.1-33b-thinking 的去对齐 GGUF 版本,使用 Heretic 的自定义 fork 消融参数制作。在 Q4_K_M 量化下,拒绝率从原模型的 88/100 降到 0/100,KL 散度 0.0118,MMLU 74.05% 与 HumanEval pass@1 93.29% 相比原模型分别下降 0.32 和 1.22 个百分点。作者标注该模型仅用于安全研究与红队测试等用途,输出需独立验证。

    推荐理由:原文给出了 Heretic 消融参数和拒绝率、KL、基准的前后对比,读者可以据此判断这个去对齐版本的能力损失程度。

10月7日周三
  1. Hugging Face · 新模型:uncensored73

    GLM-5.3-Flash UNCENSORED FP8 权重发布,HarmBench-320 拒绝率为 0

    dealignai 发布 GLM-5.3-Flash 的 CRACK 去对齐 FP8 权重,通过直接修改张量移除拒绝行为,320B 总参数、18B 激活,HarmBench-320 在 reasoning-OFF 和 MAX 档 100% 服从、拒绝率 0%,MMLU 87.33% 高于基座 86.74%。作者说明低推理档保留部分拒绝,weight 修复版需重新下载;附 vLLM 部署参数,H200 上解码 163 tok/s、MTP 投机解码 211 tok/s,并给出 reasoning_effort 只接受 low 和 high、max 档需 max_tokens 6000 以上、视频 fps 须低于片源帧率等实测注意事项。

    同一新闻,精选展示《GLM-5.3-Flash UNCENSORED FP8 发布,权重级去对齐且 MMLU 反超基座》

  2. Hugging Face · 新模型:abliterated78

    MiMo-V2.6-Distill-Qwen-9B 发布 abliterated 版,拒绝率从 78.1% 降至 9.4%

    作者 Hadi 对 XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B(MIT 许可)做拒绝消融,在 Hugging Face 发布 Flexingmeow/MiMo-V2.6-Distill-Qwen-9B-Abliterated(D 激进变体),拒绝率从 78.1% 降到 9.4%,数学推理准确率保持 100%,困惑度变化小于 0.03 NLL。因 qwen3_5 混合注意力架构不被现有工具支持,作者自写了基于 transformers 的管线,全程 CPU 完成。关键发现是拒绝方向必须从生成的回复区提取,在提示词末 token 提取的方向消融后无效(KL ≈ 1e-7,拒绝率不变);作者也提示评测集较小且微调可能重新引入拒绝。

    推荐理由:原文给出完整消融方法、拒绝率前后数据和评估局限,还提出推理模型需在生成区提取拒绝方向的可迁移结论。

  3. Hugging Face · 新模型:abliterated61

    MiniCPM-V-4.6 Huihui 去审查 8-bit MLX 版发布,4x 下采样修复大图 OCR

    作者发布了 huihui-ai/Huihui-MiniCPM-V-4.6-abliterated 的 8-bit MLX 量化版 YCF-AI/MiniCPM-V-4.6-Huihui-abliterated-8bit-MLX,体积仅 2.3 GB,M1 Ultra 上解码约 140–180 tok/s。相比旧 mlx-community 8bit 版,换用去审查权重是为全栈一致去审查;Heretic 去审查版因空间描述退化被弃用。关键改动是把图像 token 的 downsample_mode 从 16x 改为 4x,使 30 行大页 OCR 达到 120/120 零漏行、35 项视觉套件 35/35,且速度无可测损失。

    推荐理由:原文给出换用 Huihui 去审查版而保持 OCR 精度和速度的实测对照,还解释了 4x 下采样为何修复大页 OCR。

  4. GitHub · 去对齐工具与仓库51

    uncensored-llm 项目发布免安装USB本地LLM工具箱,纯CPU运行

    aentrepreneur 在 GitHub 发布 uncensored-llm,一个从USB直接运行 ./menu.sh 即可启动的100%本地LLM工具箱,基于预编译 llama.cpp(build b10936),无需安装、GPU、网络或账号。内置10个GGUF模型约27.7GB(含 Qwen 3.5 4B/9B/2B、Gemma 4 E4B、Phi-4 Mini、Llama 3.2 1B 及两个 Uncensored 变体),支持 OpenAI 兼容 API、tool calling、RAM 加载后拔除USB、OWASP ASI 实验的教育模式;在 i7-1165G7 上 1B 模型约 20-35 tokens/s。项目 MIT 许可,最低要求 4GB 内存与 8GB USB。

  5. Hugging Face · 新模型:abliterated67

    Qwen3.8-Flash-Next GSQ-RCO 无对齐 GGUF 发布,144 张量转植保留原量化

    KENIC-1 在 Hugging Face 发布 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,通过字节级张量转植把或carouter 无对齐权重的 144 个 write-to-residual-stream 张量替换进 ISTA-DASLab 的 GSQ-RCO 量化文件,覆盖全部 48 层,不重算任何 GSQ 学到的量化值。消融是严格 rank-1 线性编辑,单个方向在 48 层、两种注意力与 512 个路由专家间一致。IQ3_S 构建经逐张量 blake2b 校验:144 个目标全部改变、其余 1079 个张量逐字节不变;行为抽查中上游拒绝的绕过付费墙请求此版本会详细回答,但作者说明这只是抽查而非完整评测。

  6. Hugging Face · 新模型:abliterated32

    Gemma-4-E4B-it-qat-q4_0-unquantized 的 abliterated 去审查 GGUF 版本发布

    timfromhcs 在 Hugging Face 发布 google/gemma-4-E4B-it-qat-q4_0-unquantized 的 abliterated(去审查)GGUF 版本,通过 remove-refusals-with-transformers 方法移除模型拒答。可用最新版 Ollama 直接运行 huihui_ai/gemma-4-abliterated:E4B-qat,或用 llama.cpp 运行 Q4_K GGUF,支持 -ngl 99、-c 262144 上下文及 draft-mtp 推测解码。作者警告模型安全性过滤大幅降低,仅建议用于研究、测试或受控环境,后果由用户自负。

  7. Hugging Face · 新模型:abliterated38

    Gemma-4-12B-it-AEON-Abliterated-K4-GGUF 量化版本上线 Hugging Face

    AEON-7 的 Gemma-4-12B-it-AEON-Abliterated K=4 GGUF 量化版本已上架 Hugging Face,基于 google/gemma-4-12B-it 的 abliteration 版本,采用 K=4 多方向范数保持双投影方法,可消除标准拒绝模式并降低 wikitext PPL 漂移。提供 Q3_K_M 到 Q8_0 共 5 档量化,其中 Q4_K_M 为 7.38 GB,可完整放入单张 T4/RTX 3060/4060。

  8. Hugging Face · 新模型:abliterated84

    Ternary Bonsai 2 27B Abliterated v2 GGUF 发布,修复思考预算耗尽问题

    timfromhcs 发布 Ternary Bonsai 2 27B Abliterated v2 的 PQ2_0 GGUF 权重,通过修改输出层一行让模型在答案写完后关闭推理,避免 v1 把答案写进推理导致预算耗尽出空白回答。在 StrongReject 150 条有害请求、16,384 token 预算测试中得分 0.941(151 中空白 7 次),优于 Hikari07jp 0.738、OS-Software Heretic 0.723 等其他消融版本;SimpleSafetyTests 拒绝率 0%,MMLU 相比原版降 0.56 点,是同类中代价最小的。

    推荐理由:作者给出多组对照评测数据,包括与其他消融版本的横向对比和 MMLU 代价,读者可以据此判断这版去对齐的实际效果。

  9. Hugging Face · 新模型:abliterated39

    huihui-ai 发布 Huihui-gemma-4-12B-agentic-fable5-abliterated-GGUF 去审查版本

    huihui-ai 发布 Huihui-gemma-4-12B-agentic-fable5-abliterated-GGUF,这是基于 yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-GGUF 的去审查(abliterated)版本,整个消融过程仅用 llama.cpp 完成,不依赖 Transformers。模型可通过 huggingface-cli 下载,示例命令以 Q8_0 量化运行并设置 8192 上下文。官方警告该模型安全过滤大幅减弱,建议仅用于研究和受控环境,风险由用户自行承担。

  10. Hugging Face · 新模型:abliterated37

    Ministral-3-14B-abliterated 模型发布:基于 Ministral-3-14B-Instruct-2512 的去审查版本

    timfromhcs 发布 Ministral-3-14B-abliterated,这是基于 Ministral-3-14B-Instruct-2512 的 abliterated(去审查)版本,使用 grimjim 的 llm-abliteration 工具以 norm-preserving biprojected 方法移除模型的拒答行为。模型约 14B 参数,采用 SafeTensors(BF16)格式,遵循 Apache 2.0 许可证开源,另提供兼容 llama.cpp 的 GGUF 量化版本。

  11. Hugging Face · 新模型:abliterated50

    Qwen2.5-7B-Instruct-abliterated-v2 发布:基于 abliteration 技术的无审查版本

    基于 Qwen2.5-7B-Instruct 制作的 abliterated(无审查)版本 v2 在 Hugging Face 上发布,较上一版本有所改进,可通过 transformers 库加载使用。评测显示 v2 在 IF_Eval(77.82)和 GPQA(32.17)上略高于原模型,MMLU Pro(42.03)、BBH(53.01)基本持平,TruthfulQA(57.81)有所下降。评测脚本已随模型开源在仓库 /eval.sh 中。

  12. Hugging Face · 新模型:uncensored61

    HauhauCS 发布 Qwen3.8-27B-Uncensored Aggressive 激进去对齐 GGUF 量化版

    HauhauCS 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的 Aggressive 无对齐 GGUF 量化版,实测 0/465 拒绝,定位为直接给答案、极少前置说明的变体。全部量化保留原生 MTP/NextN 头和 262,144-token 原生上下文(可扩展至 1,000,000),支持文本、图像和视频输入,需另下 BF16 projector。

    同一新闻,精选展示《HauhauCS 发布 Qwen3.8-27B 无对齐 Aggressive GGUF 量化版》

  13. Hugging Face · 新模型:uncensored49

    Qwen-Image-2.1 Uncensored GGUF 量化版本发布

    Hugging Face 上发布了基于 Qwen/Qwen-Image-2.1 原始权重的 Uncensored GGUF 量化模型,提供 BF16(14.23 GB)到 Q4_0(4.15 GB)多种量化格式,推荐体积与画质平衡最佳的 Q4_K_M(4.60 GB)。模型无内置安全检查器或内容过滤,可直接生成成人、NSFW 及敏感图像,不会拒绝提示词或输出黑图。配套的 qwen3vl_8b 文本编码器与 VAE 文件可直接用于 ComfyUI 及 ComfyUI-GGUF,文本编码器可卸载到系统内存以节省 9–17 GB 显存。

  14. Hugging Face · 新模型:abliterated75

    Qwen3.8-Flash-Next 剪枝 Coder 版 GGUF 发布,配合 Strata 运行时投影去除拒绝行为

    alesha-pro 在 Hugging Face 发布 Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Coder-Strata-GGUF,权重逐字节复制自 ISTA-DASLab 剪掉一半专家、以 3.5 bit 存储的 GSQ-RCO Coder 版本(下载 58.4 GB 对比 83.6 GB,ISTA 数据为原模型 91.3% 的 SWE-bench Verified 和 98.7% 的 LiveCodeBench v6)。作者的贡献是验证其此前发布的 480 KB 拒绝方向向量在剪枝模型上依然有效,并用 Niko1221 的 Strata 运行时以逐层投影方式去除拒绝。

    推荐理由:作者实测了在剪枝版 Qwen3.8-Flash-Next 上运行时投影拒绝向量的实际效果,给出拒绝率和 KL 距离数据,方法可复用。

  15. Hugging Face · 新模型:abliterated60

    Methane 发布 Qwen3.8-Flash-Next 去对齐版 GSQ-RCO 量化 GGUF 模型

    Methane 在 Hugging Face 发布 Qwen3.8-Flash-Next 的去对齐版 GSQ-RCO 量化 GGUF 模型,保留 1,078 个 ISTA 张量,并对来自 windowsxp811203 去对齐检查点的 146 个 BF16 张量重新量化。实测生成速度约 31 tok/s,比未改动的 ISTA IQ3_XXS 快约 31%,下载体积大 9.6%;MMLU 82.68%、GSM8K 86.72%、strict IFEval 85.16%、raw HumanEval 66.46%,除编码外三任务平均变化 −0.66 个百分点,等质量尚未证实。

    推荐理由:作者给出了与原 ISTA 量化的速度和四项基准对比数据,读者可据此评估这个去对齐量化版本的实际代价。

  16. Hugging Face · 新模型:abliterated24

    Huihui-gemma-4-12B-it-abliterated 上架 Hugging Face:google/gemma-4-12B-it 的去审查版本

    huihui-ai 发布基于 google/gemma-4-12B-it 的 abliterated 去审查版本,思考与非思考模式均已完全去除拒答,仅处理第 23-28 层。早期版本权重有问题,已重新上传,已下载用户需重新下载。可通过最新版 ollama 运行 huihui_ai/gemma-4-abliterated:12b,建议用于研究测试而非生产环境。

  17. Hugging Face · 新模型:uncensored50

    blaj 发布 Qwen-Image-2.1-Uncensored 的 OpenVINO INT4 版本

    blaj 在 Hugging Face 发布 Qwen-Image-2.1 Uncensored 的 OpenVINO INT4 量化版,将 abliterated 的 Qwen3-VL 文本编码器替换进原模型,总大小约 13 GB,可在 Intel Arc iGPU 上运行文生图。在 Core Ultra 7 258V 上 512x512、10 步生成耗时 12.9 秒(1.29 秒/步),峰值内存 7.1 GB;图像编辑(i2i)在 30 GB 内存下会耗尽内存,需 diffusers、optimum-intel 主分支及 OpenVINO 2026.5.0 nightly。

  18. Reddit · r/LocalLLaMA38

    Qwen3.8-cyber-RedTeam-Surgical-Abliterated 27B 发布:面向红队与底层安全的无约束基础模型

    Reddit 用户发布 Qwen3.8-cyber-RedTeam-Surgical-Abliterated(27B),一个面向网络安全工程师、授权红队行动和内存漏洞研究的无约束微调模型。模型基于 Qwen 3.5 Hybrid SSM 架构(48 层 Linear-Attention + 16 层 Full-Attention),原生 256K 上下文,KV cache 减少 75%,可在单张 GPU 上以 FP8 运行。通过残差流正交化移除拒绝方向,消除说教式拒绝,同时保留 C/汇编语法与推理能力,支持多步工具调用并开源权重。

  19. Hugging Face · 新模型:uncensored18

    mradermacher/qwen3.5-9b-uncensored-i1-GGUF 模型在 Hugging Face 发布

    mradermacher 在 Hugging Face 发布 qwen3.5-9b-uncensored 的 i1-GGUF 量化版本。该模型可通过 llama.cpp、Ollama、Docker Model Runner、LM Studio 等工具本地运行,示例采用 Q4_K_S 量化,支持启动 OpenAI 兼容本地服务器或终端直接推理,也可接入 Pi、Hermes、OpenClaw 等 Agent 工具。

  20. Hugging Face · 新模型:uncensored36

    Gogeta70 发布 Swift_1.5_Qwen_3.8_27B_Heretic_Uncensored LoRA 适配器

    Gogeta70 基于 heretic-gguf 对 ukisai/Swift-1.5-Qwen3.8-27B-GSQ-RCO-GGUF 做 abliteration,发布可去除审查的 LoRA 适配器,适用于基于 Qwen 3.8 27B 的 Swift 1.5 模型。Heretic 报告拒绝率为 16%、KL Divergence 为 0.3059,作者自测未发现拒绝行为。该适配器会移除基座模型内置的安全护栏,使用风险由用户自行承担。

  21. Reddit · r/LocalLLaMA33

    GLM 5.3 Flash 是否比其他中国模型审查更少?用户实测对比

    一位 Reddit r/LocalLLaMA 用户实测发现,GLM 5.3 Flash 在回答 1989 年天安门事件提问时比 GLM 5.3、Kimi K3、DeepSeek 4.1 Flash、DeepSeek 4 Pro 更少回避,通常直接给出概述,而其他模型多拒绝或先喊口号。此前的谄媚性测试中 GLM 5.3 Flash 也表现得更不谄媚。测试通过 nano-gpt.com 锁定 Novita 提供商完成。

  22. Hugging Face · 新模型:uncensored58

    Qwen3.5-9B 去审查微调版发布,用 Claude 4.6 蒸馏数据训练

    作者 Mal1cc 在 Hugging Face 放出 Qwen3.5-9B 的 HERETIC 无审查微调版,用 Unsloth 在本地硬件上以 Claude 4.6 大型蒸馏数据集微调,称将 Qwen 思考替换为 Claude 4.6 式思考且基准有所提升。去审查数据显示 100 题拒绝数从原版 100 降至 6,KL 散度 0.0793;ARC 等 7 项基准给出 thinking、instruct 版与原模型对比分数,视觉输入经测试可用,视频部分未测试。建议最低 q4ks(非 imatrix)或 IQ3S(imatrix)量化,默认上下文 256k,其他版本仍在测试中。

    推荐理由:作者给出了各基准的前后对比、KL 散度和 100 题拒绝率数据,读者可以据此自行判断这个去对齐微调版的质量。

  23. Hugging Face · 新模型:abliterated42

    Huihui-Qwen3.8-27B-Abliterated VAL-APEX-I-MiniPlus V2.1 GGUF 量化版发布

    Huihui-Qwen3.8-27B-abliterated 模型的官方 VAL-APEX-I 量化版 MiniPlus V2.1 发布,体积 15.33 GB(3.93 BPW),WikiText-2 困惑度 6.1466,较 BF16 仅上升 2.44%,达到 Q5_K_M/Q6_K 边界质量。该版本在 24GB GPU 上支持完整 256K 上下文,192 个 DeltaNet SSM 状态张量保持 F32 无压缩,输出头采用 Q6_K 保护。另有 11.90 GB 的 NanoPlus 版本可在 16GB 硬件上运行。

  24. Hugging Face · 新模型:uncensored36

    minas2025 发布 Qwen-3.5-0.8B-Uncensored-Conversational 微调模型

    minas2025 基于 sh0ck0r/Qwen3.5-0.8B-heretic 用 QLoRA(4-bit)微调出 Qwen-3.5-0.8B-Uncensored-Conversational,使用含 11,400 条温暖对话数据的 minas2025/warm-chat-12k 数据集,让 0.8B 模型以热情、口语化风格聊天且无拒绝回答。模型提供 Q8_0 GGUF(约 812 MB),上下文 2048,可在 LM Studio、Ollama、llama.cpp 中加载。

  25. Hugging Face · 新模型:uncensored52

    Qwen3.8-27B 无审查微调版发布,ARC-C 达 735 并大幅压缩思考 token

    Shellar 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的无审查微调版 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored,提供 regular 与 MTP 两种 GGUF 量化。作者称 8bit 下 ARC-C 达 735、ARC-E 达 882,4bit 为 719,均高于原版 Qwen3.8-27B(8bit ARC-C 0.591),思考 token 减至原版的 1/2 到 1/10。

  26. Hugging Face · 新模型:uncensored28

    Qwen3.8-27B EfficientThink Uncensored 的 VAL-APEX-I NanoPlus GGUF 量化版发布

    Hugging Face 上发布 Qwen3.8-27B EfficientThink Uncensored 的 VAL-APEX-I NanoPlus GGUF 量化版,采用混合线性注意力与二次注意力架构,按 814 条细粒度张量规则分层量化,有效位宽 2.85 BPW,文件 11.65 GB。模型遵循 Apache 2.0 许可,8K 上下文全 GPU 卸载约需 10-12 GB 显存,可部分卸载运行于 12-16 GB GPU。

  27. Hugging Face · 新模型:uncensored60

    gemma-4-E2B-it 去对齐版 GGUF 量化发布,拒绝率从 98/100 降至 4/100

    独立贡献者 princepppp 发布了 google/gemma-4-E2B-it 的去对齐版本 gemma-4-E2B-it-ultra-uncensored-heretic 的 GGUF 量化,使用 Heretic v1.2.0 的 Arbitrary-Rank Ablation 方法,消融 attn.o_proj 组件(层 17-24)。

    推荐理由:作者给出了拒绝率、KL 散度和 MMLU 前后对比,可据此判断这个去对齐版本去掉了多少、损失了多少。