跳到正文
10月13日周二
  1. Hugging Face · 新模型:uncensored44

    Qwen3.8-27B-Uncensored 的非对称 GPTQ Int4 量化版发布,可单卡跑在 Intel Arc Pro B70 上

    darioooooo0o 发布 orcarouter/Qwen3.8-27B-Uncensored(OrcaRouter 基于 Qwen/Qwen3.8-27B 的 abliterated 微调版)的非对称 GPTQ Int4 量化版,group 128,lm_head、MTP head 和 vision tower 保留 BF16。在 Intel Arc Pro B70 + vLLM XPU v0.31.0 上单卡实现 262,144 token 上下文与视觉、MTP k=4,短提示解码 64-128 tok/s,KL 散度 0.018-0.060、top-1 一致率 94.1%,优于对称 GPTQ Int4 g128 方案。

10月12日周一
  1. Hugging Face · 新模型:uncensored32

    Sovereign-Uncensored-ARA-27B-MLX-4bit-v2 发布:面向 Apple Silicon 的标准 MLX 版本,支持视觉与原生 MTP

    proofofvitalik 于 2026-10-12 发布 Sovereign v2,将 ARA 27B uncensored 模型以 affine 4-bit(group size 64)打包为标准 qwen3_5 MLX 架构,无需 trust_remote_code,文本权重未合并、重训或重量化,并从同一 ARA 源恢复 BF16 视觉与原生 MTP。该版本使用独立仓库和 v2.0.0 标签,不替换旧版;声明架构上下文为 262,144,已在 mlx-vlm 0.7.6、mlx-lm 0.32.0、M4 Max/48GB 环境验证,LM Studio 与 Splash 1.3.1 均可加载。

  2. Hugging Face · 新模型:abliterated28

    Huihui-Qwen3.8-27B-abliterated-GGUF:Qwen3.8-27B 去审查版本发布

    huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝回复,发布 Huihui-Qwen3.8-27B-abliterated-GGUF。该版本仅对第 22 至 52 层(0 起始索引)做消融,并新增 Underdog-Saluki、Swift、Ternary、GSQ-RCO、UD-DW 等系列,其中部分量化将需消融权重转为 Q8_0 以提升响应质量,MTP 和视觉部分未改动。模型支持最新 ollama(huihui_ai/Qwen3.8-abliterated)和 llama.cpp(上下文 262144),因安全过滤大幅减弱,建议仅用于研究或测试环境。

  3. Reddit · r/SillyTavernAI24

    Bathory-X 实验版模型发布:基于 Gemma 4 26B A4B 的推理 MoE 写作模型

    社区作者发布实验模型 Bathory-X,一个基于 Gemma 4 26B A4B 的推理 MoE 模型,经微调用于散文写作与角色扮演(含 ERP),应已完全无审查。模型融合了多个优秀写作模型的内容,旨在消除常见 AI 写作套路如滥用明喻、三段排比等。作者提供 Transformers 版本与 GGUF 量化,并征集各 backend 的问题反馈与最佳 preset。

  4. Hugging Face · 新模型:uncensored74

    dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重版

    dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone、8B/16B 每 token 激活)的权重级 abliterated 无对齐版本,以原生 FP8 权重提供,1M token 上下文,保留视觉、工具调用与推理能力,不带自定义 model.py 或运行时钩子。HarmBench-320 实测显示 base 模型在 effort=off 时拒绝率 42.81%、effort=max 时仅 1.56%,CRACK 版在两档下均 100% 顺从且无 HARD_REF/SOFT_RED/HEDGE;MMLU-14k 全集准确率从 86.96% 降至 82.74%(-4.22 pp),剔除伦理类科目后约 -1.1 pp。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  5. Hugging Face · 新模型:uncensored68

    KENIC-1 发布 Qwen-Image-2.1-Turbo 去对齐编码器 GGUF 权重

    AtomicChat 在 Hugging Face 发布 Qwen-Image-2.1-Turbo 的去对齐文本编码器 GGUF,将 Qwen3-VL-8B-Instruct 的拒绝方向投影移除,可作 stable-diffusion.cpp 的 --llm 使用。作为聊天模型,英文有害提示拒绝率从 88.9% 降到 1.2%,俄语从 38% 降到 0%,MMLU 保持 77.35% 不变。在 45 条敏感图像提示上与原版编码器无一翻转,提供 BF16 到 Q2_K 共 7 档量化,AD-Q4_K 画像偏移为普通 Q4_K_M 的一半。

    同一新闻,精选展示《AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF 文本编码器,拒绝率从 88.9% 降至 1.2%》

  6. Hugging Face · 新模型:abliterated68

    Swift 1.5 Qwen3.8-Flash-Next NVFP4 去审查替换文件发布,附512剪至256专家的半专家变体

    作者发布 Swift 1.5 Qwen3.8-Flash-Next NVFP4 的去审查替换文件,将拒答方向以 1.5 倍强度从 151 个写入残差流的张量中投影掉,并提供每层专家从 512 个剪至 256 个的 pruned256 变体。逐文件给出 SHA-256 与验证报告,24,576 个专家重新量化后分量约 −0.498;实测在单卡 RTX PRO 6000(96 GB)上用 SGLang 可跑约每秒 1,000–1,200 生成 token,12 个中文政治敏感问题全部完整回答而原版大多拒答或给官方口径短答。未跑通用基准与 pruned256 变体;n-gram 嵌入分片约 102 GB 需从原仓库获取。

    推荐理由:作者给出了逐层投影去除拒答方向的做法和完整验证数据,包括编辑前后分量、量化误差和12题政治敏感问题实测对比,可直接复现。

  7. Hugging Face · 新模型:uncensored74

    DeepSeek-V4.1-Flash GSQ 混合精度量化版发布,单张 RTX 4090 可跑 552B MoE

    IndrasMirror 发布 DeepSeek-V4.1-Flash-GSQ-Uncensored,对 dealignai 的 abliterated 检查点做校准混合量化,552B 参数 MoE 压缩至约 163 GB(152 GiB 专家权重),可在 RTX 4090 24 GB + 90 GB RAM + NVMe 的家用 PC 上运行。量化采用三档专家格式(42.8% 三值、39.2% 2-bit、18.0% 3-bit),与同尺寸均匀 Q2_0 相比输出误差低 17%;held-out 困惑度 5.645(原模型 4.915),top-1 一致率 0.674。实测 Prefill 250 tok/s、Decode 约 26 tok/s(启用 ggml patch 可达 27+)。

    推荐理由:原文完整公开了混合精度量化的校准方法、逐层误差和困惑度数据,并给出在单张 RTX 4090 上复现所需的全套工具与硬件清单。

  8. Hugging Face · 新模型:uncensored72

    dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重版

    dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B 底座、每 token 激活 8B/16B)的权重级 abliterated 无对齐版本,以原生 FP8 权重提供,支持 1M token 上下文、视觉与工具调用。HarmBench-320 实测显示 CRACK 版在 effort=off 和 max 下拒绝率均为 100% 通过(base 分别为 42.81% 和 1.56%),MMLU-14k 整体准确率从 86.96% 降至 82.74%,剔除伦理类科目后约 -1.1 pp;模型卡还给出 SGLang 部署命令、KV 内存占用、4×H200 实测吞吐(单流 101-113 tok/s)及多项启动注意事项。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  9. Hugging Face · 新模型:abliterated24

    Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 上架 Hugging Face

    huihui-ai 在 Hugging Face 发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated,这是基于 nerkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2 的去审查(abliterated)版本,通过不依赖 TransformerLens 的概念验证方法移除模型拒答,仅对第 2 至 52 层做了 ablated 处理。模型可用 transformers 库加载,默认以 bfloat16 精度运行,支持可开关的 thinking 模式与流式输出。

  10. Hugging Face · 新模型:uncensored76

    dealignai 发布 DeepSeek-V4.1-Flash 权重级去对齐 FP8 版,HarmBench 攻击成功率 100%

    dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B 底座、1M 上下文、原生 FP8)的权重级 abliterated 版本,称移除拒绝回路同时保留 MoE、Engram 记忆、CSA2 稀疏注意力和视觉塔等组件为逐字节一致。HarmBench-320 实测显示 CRACK 版在 effort=off 与 max 下 ASR 均为 100%(基座分别为 42.81% 和 1.56%),MMLU-14k 整体下降 4.22 pp,剔除伦理类题目后约 -1.1 pp。模型卡还给出 SGLang(dsv4.1 分支)部署细节、4×H200 实测吞吐(单流 101-113 tok/s)与并发-上下文内存权衡,vLLM 支持截至发文尚未合并。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  11. Hugging Face · 新模型:uncensored22

    bowmanslayer/VeriLoop-E2-Uncensored-GGUF 上架 Hugging Face,附 llama.cpp 等多平台部署指南

    bowmanslayer 在 Hugging Face 发布 VeriLoop-E2-Uncensored-GGUF 模型,提供 Q4_K_M 量化版本。模型可通过 llama.cpp、vLLM、Ollama、Docker Model Runner、Lemonade 等工具在本地运行,并支持 llama serve 启动 OpenAI 兼容 API 服务器,也可接入 Pi、Hermes、OpenClaw 等 Agent。

  12. Hugging Face · 新模型:uncensored27

    Zewsic 发布 diffusiongemma-26B-A4B-it-HERETIC-Uncensored-NVFP4 量化模型

    Zewsic 在 Hugging Face 发布 edwixx/diffusiongemma-26B-A4B-it-HERETIC-Uncensored 的 NVFP4 量化版本,基于 Heretic 修改后的专家权重而非原始 Google 模型。MoE 专家与 dense MLP 采用 NVFP4(W4A4、group size 16),注意力、embeddings、router、vision tower 等保留 BF16,校准使用 ultrachat_200k 的 128 个样本、截断至 2048 token。原生存储需 Blackwell 或更新 GPU,可通过 vLLM 部署,许可证为 Apache 2.0 加 Gemma 4 条款。

  13. Hugging Face · 新模型:abliterated57

    Huihui-Qwen3.8-Flash-Next-abliterated 的 EXL3 3.05bpw 整数量化包发布

    gdeyoung 发布了 huihui-ai/Huihui-Qwen3.8-Flash-Next-abliterated 的 EXL3 3.05bpw 整数量化包,LM 层已消融,n-gram 嵌入表、MTP 头和视觉塔与基座逐字节一致。包内 75,277 个张量为 3bpw、472 个为 5bpw、2 个为 4bpw,大小 84 GB,可在单块 GB10(128GB 统一内存)上以 262,144 token 上下文运行,实测拒绝筛查 20/20 无拒绝、thinking-off 解码约 65 tok/s、226k token 海针测试可召回。模型继承 Qwen Community License 1.0,安全过滤显著减弱,输出责任由使用者承担。

    推荐理由:作者给出消融层的说明、拒绝率实测与完整量化配方,读者可据此复现这个 DGX Spark 上的去对齐部署方案。

  14. Hugging Face · 新模型:uncensored31

    Qwen3.8-Flash-Next-Uncensored 转换为 strixw 格式发布

    Hugging Face 用户 ngkzngkz 发布 orcarouter/Qwen3.8-Flash-Next-Uncensored 的 strixw 格式转换版,该模型是 Qwen/Qwen3.8-Flash-Next 的 BF16 去审查版本。权重共 65.86 GiB(853 tensors),路由专家采用 Q4/G128 量化,部分组件为 Q8,n-gram 嵌入表 48.28 GiB。模型经 abliterated 处理移除拒绝方向,无内置安全护栏,遵循 Qwen Community License 1.0。

  15. Hugging Face · 新模型:abliterated30

    GLM-5.3-Flash-Sushi-2bpw-Abliterated:实验性权重移植包在 Hugging Face 发布

    thelogicalgate 在 Hugging Face 发布 GLM-5.3-Flash-Sushi-2bpw-Abliterated,将原版 GLM-5.3-Flash 的 EXL3 2bpw 专家与来自 abliterated 供体的 29 个 BF16 注意力输出投影组合为 Sushi 包。模型分片约 87.70 GB,仅供 Sushi v1.2.2 在 Apple Silicon 上加载,需 macOS 26.2 及以上。该实验性移植的拒绝减少与能力保留尚未经完整评估,诊断中 17*23=391,DFlash2 串行 33.283 tok/s、开启时 46.235 tok/s,draft 接受率 88.5%。

  16. Hugging Face · 新模型:uncensored42

    darask0 发布 GLM-5.3-Flash-Uncensored 的 IQ2/IQ3 优化量化版

    darask0 在 Hugging Face 发布 GLM-5.3-Flash-Uncensored 的 IQ2/IQ3 混合量化版,基于 orcarouter 的 FP8 源模型转换,两个 GGUF 分片共 83.707 GiB。该版本保留全部 45 层文本主干和 42 个路由层中的 288 个专家,采用校准和 GPTQ 误差反馈,路由专家主要用 IQ2_XXS、重要下投影用 IQ3_XXS。在 RTX PRO 6000 96 GB 上实测 256 输入时 decode 91.0 tokens/s,需自建补丁版 Maya 运行时,与原版 llama.cpp、LM Studio、Ollama 的兼容性未经验证。

  17. Hugging Face · 新模型:uncensored50

    GLM-4.7-Flash 无对齐版 GGUF 仓库发布,附 Ollama 0.32.1 速度修复与上下文调参说明

    AI-conn 在 Hugging Face 上 fork 了 HauhauCS 基于 Zhipu AI GLM-4.7-Flash 制作的无对齐版本 GGUF,以固定副本并附带部署修复说明,推荐 20 GB 显卡使用 Q4_K_M 量化(16.89 GiB)。实测指出 Ollama 0.32.1 之前会把该 MoE 当密集模型执行(13.7 tok/s),升级到 0.32.1 后达 77.8 tok/s;默认 202,752 token 上下文会导致 prefill 约 51 秒、解码约 10 tok/s,建议 Modelfile 设 num_ctx 32768 和 num_batch 2048(25K prompt 从 665 秒降到 33 秒)。

  18. Hugging Face · 新模型:abliterated33

    Huihui-Qwen3.8-27B-abliterated GGUF 分叉版本上传至 Hugging Face

    AI-conn 在 Hugging Face 上传了 huihui-ai 制作的 Huihui-Qwen3.8-27B-abliterated-GGUF 分叉,基于 Qwen/Qwen3.8-27B,采用去除拒绝方向的 abliteration 方法,许可证为 Apache-2.0。在 20 GB 显存的 RX 7900 XT 上,推荐文件 UD-DW-Q4_K_M(15.41 GiB)8k 上下文约占 17.1 GiB、16k 约占 18.1 GiB,均可完全常驻显存。该文件是审核中唯一在 20 GB 显卡上留有 16k 上下文余量的顶级无审查版本,可通过 ollama pull 直接拉取。

  19. Hugging Face · 新模型:abliterated31

    Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated-i1-GGUF 量化版上线 Hugging Face

    AI-conn 在 Hugging Face fork 了 huihui-ai 的 Huihui-Qwen3-Coder-30B-A3B-Instruct-abliterated,由 mradermacher 完成 GGUF 转换,基础模型为 Qwen3-Coder-30B-A3B-Instruct,采用 Apache-2.0 许可。该 MoE 模型总参数 30B、每 token 激活约 3B,但全部专家权重需常驻 VRAM;20 GB 显卡推荐 17.28 GiB 的 i1-Q4_K_M 文件。社区实测基础模型在 HumanEval Pro 得分 60.4%,目前尚无任何 abliterated 版本的独立编程评测。

  20. Hugging Face · 新模型:abliterated40

    Huihui-Qwen3.8-27B-abliterated-GGUF 发布:基于 Qwen3.8-27B 的去审查版本

    huihui-ai 基于 Qwen/Qwen3.8-27B 发布去审查(abliterated)的 GGUF 版本 Huihui-Qwen3.8-27B-abliterated,无需 TransformerLens 移除模型拒答,MTP 与视觉部分未改动。后续多个系列仅对第 22 至 52 层(0 起始索引)做消融,其余层保留,并提供 Q2_K_L 至 Q6_K_L 及 Q8_0_L 的特殊量化以提升回复质量。模型可通过 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行,支持 -c 262144,仅建议研究测试用途。

  21. Reddit · r/LocalLLaMA32

    10-16GB VRAM 可运行模型全排名:Gemma 4 26B-A4B 居首

    Reddit r/LocalLLaMA 用户实测并排出了能在 10-16GB VRAM、26-32GB RAM 下运行的模型榜单,要求 64k 上下文、每秒至少 10 token,冠军为 Gemma 4 26B-A4B,其后是 Qwen 3.6 35B-A3B (Abliterated) 和 Gemma 4 Instruct 19B-A1B Heretic。测试覆盖速度、连贯性、多语言容错、slop 模式频率和审查程度,并排除了所有 CoT 模型。作者提示 Kobold 无法加载 Qwen 35B 和 GLM 31B,需用 LLAMA 运行。

  22. Hugging Face · 新模型:abliterated39

    huihui-ai 发布 Huihui-Qwen3.8-Flash-Next-abliterated-v2 GGUF 去审查版本

    huihui-ai 基于 Qwen/Qwen3.8-Flash-Next 发布 abliterated 去审查版 GGUF 模型 v2,通过 abliteration 移除拒绝行为,且相比第一版调整了消融侧重、未消融任何专家。该版本支持最新 llama.cpp 与 Strata,提供 UD-Q4_K_XL 量化并以 SHA256 校验,可用 262144 上下文长度运行,适合小说写作和编程,但安全过滤大幅减弱,仅建议用于研究测试环境。

  23. Hugging Face · 新模型:uncensored18

    Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-oQ8e-mtp 量化版本发布(8-bit MLX)

    用户 Ecmcfee 于 2026-10-11 上传了 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-oQ8e-mtp 的量化版本,替换旧版本,此前下载过的用户需重新下载。该模型使用 oQ(oMLX v0.7.1.dev1)混合精度量化,为 qwen3_5 架构,8-bit、group size 64,格式为 MLX safetensors。

10月11日周日
  1. Hugging Face · 新模型:abliterated20

    huihui-ai 发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 去审查模型

    huihui-ai 在 Hugging Face 上发布了 27B 模型 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated,这是对 nerkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2 的去审查版本,通过 abliteration 技术移除模型拒绝行为。该实现为概念验证版本,未使用 TransformerLens,仅对第 2 至 42 层进行了消融。

  2. Hugging Face · 新模型:uncensored77

    DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比

    dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash 的权重级消融版本,HarmBench-320 上攻击成功率从基座的 42.81%(effort=off)提升到 100%,且在两种 effort 档位下均无拒绝回退。MMLU-14k 整体下降 4.22pp(86.96%→82.74%),剔除伦理类学科后差距收窄至约 -1.1pp;模型为原生 FP8 权重、1M 上下文、552B 骨干(8B/16B 激活),卡面附 SGLang 部署路径与 4×H200 实测配置。

    推荐理由:卡面给出 HarmBench 拒绝率与 MMLU 逐学科前后对比,读者可以自行衡量这次权重级消融在能力保留上的真实代价。

  3. Hugging Face · 新模型:uncensored66

    CCSSNE 发布 HauhauCS 去对齐版 Gemma4-31B QAT GGUF,附 MTP 投机解码加速

    CCSSNE 在 Hugging Face 发布基于官方 QAT 权重的 HauhauCS 去对齐版 Gemma4-31B,实测 0/465 拒绝,数据集和能力不变。提供 Q4_K_M 主模型(18.7 GB)、mmproj 视觉文件(1.2 GB)和来自 Unsloth 的 MTP 投机解码头(280 MB),经 llama.cpp 测试生成速度约快 53% 且输出一致;支持 256K 上下文与图像输入,兼容 llama.cpp、LM Studio、Jan、koboldcpp 等 GGUF 运行时。

    推荐理由:原文给出拒绝率实测结果和 llama.cpp 部署命令,还说明 QAT 4-bit 量化选型理由,可作为去对齐模型的参考样本。

  4. Hugging Face · 新模型:uncensored56

    HauhauCS 发布 Gemma4 26B-A4B QAT 去对齐 GGUF 版,附 MTP 加速头

    CCSSNE 在 Hugging Face 发布基于 Google DeepMind Gemma4 26B-A4B 官方 QAT 权重的去对齐 GGUF 版本,作者实测 0/465 拒绝,数据集与能力不变。推荐 Balanced 变体面向 agentic coding、推理与创作场景;附带 Unsloth 的 MTP 投机解码头,经作者在 llama.cpp 中测试生成速度约快 35% 且输出不变,支持 256K 上下文与 mmproj 视觉输入。

    推荐理由:作者给出了拒绝率实测结果和消融思路,还附 MTP 投机解码速度对比,读者可自行评估这个去对齐版本的实际可用性。

  5. Hugging Face · 新模型:uncensored26

    thebadking 发布 Qwen3.8-27B Heretic Abliterated Uncensored P1M GGUF 词表剪枝版

    thebadking 在 Hugging Face 发布 Qwen3.8-27B RVN Heretic Abliterated Uncensored 的 P1M 词表剪枝版本,基于 0bserverx 的 RVN-Q6_K GGUF 与 trohrbaugh 的 ARA abliteration 方法。词表从 248,320 条缩减至 129,272 条,保留 ASCII、常用符号和 256 个 byte-fallback token,模型张量逐字节保留,未重新训练或重新量化。Q6_K 量化文件 RVN-Q6_K-P1M.gguf 大小为 21.08 GB,可用 llama.cpp 运行,沿用 Apache-2.0 许可证。

  6. Hugging Face · 新模型:uncensored76

    dealignai 发布 DeepSeek-V4.1-Flash 无对齐消融版权重

    dealignai 团队基于 deepseek-ai/DeepSeek-V4.1-Flash(552B 稠密骨干、8B/16B 激活)发布权重级消融的无对齐 FP8 检查点,采用专有 weight-level abliteration,无自定义 model.py、无运行时钩子。HarmBench-320 实测攻击成功率从 base 的 42.81%(effort=off)升至 100%,且各能力组件字节级保留;MMLU-14k 从 86.96% 降至 82.74%,剔除伦理类题目后损失约 -1.1 pp。卡片还给出 SGLang/vLLM 部署路径与踩坑说明,模型需 4×H200 及以上 NVLink 环境。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  7. Hugging Face · 新模型:uncensored69

    DeepSeek-V4.1-Flash 无对齐版 GGUF 量化发布,支持 CPU 推理 1M 上下文

    Adolphsson 发布 DeepSeek-V4.1-Flash-UNCENSORED 的 GGUF 量化版本,基于 dealignai 对 deepseek-ai/DeepSeek-V4.1-Flash(552B MoE,1M 上下文)的权重级 abliteration 结果转换。提供 Q8_0(508 GB)、Q4_K_M(449 GB)、Q3_K_M(374 GB)三种量化及 BF16 视觉 projector,Q4/Q3 为从 Q8 两步 requant,敏感层用 Q5/Q6/Q8;模型推理电路已按 OrcaSAQ 风格做敏感度感知量化,完整 1M 上下文(KV 约 890 bytes/token)。

    推荐理由:不只放出去对齐权重,还给出逐量化的拒绝率与 NIAH 实测和 CPU 部署配方,读者可据此评估质量损失。

  8. Hugging Face · 新模型:abliterated75

    msuiche 发布 gemma-4-E4B-it 的 GLP 去拒绝控制向量

    作者 Matt Suiche 在 Hugging Face 发布针对 google/gemma-4-E4B-it 的 projective control vector(GLP),不改权重,在残差流 post-layer 位置运行时投影,覆盖层 5 和 10–41,alpha 1.0。验证显示 stock 模型 refusal32 拒绝 31/32,steered 后 32/32 合规且良性集输出不变、无 garbled 补全;作者强调同家族四个模型的 alpha 分布为 {0.25, 0.5, 1.0},需按 checkpoint 重跑阶梯,不能移植 alpha。

    推荐理由:原文给出完整推导方法、alpha 阶梯和拒绝率前后对照,还解释了为何 alpha 不能跨模型移植,方法细节足够读者复现。

  9. Hugging Face · 新模型:abliterated65

    Matt Suiche 发布 gemma-4-31B-it 的 GLP 投影转向向量(alpha 0.5)

    Matt Suiche 发布针对 google/gemma-4-31B-it 的投影控制转向向量 GLP-54-L6-59,以 h <- h - alpha*(h·d)d 作用于第 6-59 层残差流,不修改权重。验证显示基座模型在 refusal32 上本就 32/32 全部配合,alpha=0.5 时无害集与拒绝集均保持 32/32 且零乱码,而 alpha=0.25 和 1.0 各出现 1-2 例拒绝,阶梯呈非单调。向量与具体 revision 绑定,仅适用于实现 projective 读取的本地运行时,作者警告不要把 alpha 0.5 移植到其他模型。

    推荐理由:作者给出了alpha阶梯验证和逐条阅读补全结果,还发现基座本已全数配合、阶梯非单调,对理解去对齐方法的实际边界有参考价值。

  10. Hugging Face · 新模型:abliterated63

    msuiche 发布 gemma-4-26B-A4B-it 的 GLP 投影去对齐向量,alpha 0.5 附拒绝率验证

    作者为 google/gemma-4-26B-A4B-it(MoE 成员,26B 总参/4B 激活)发布 GLP 投影控制向量,在层 3–29 的 residual stream 以 alpha 0.5 运行时施加,不修改任何权重。验证显示 stock 模型 refusal32 已 32/32 comply,alpha 0.25 反而降至 25/32,0.5 恢复 31/32 且良性对照组无损,1.0 会牺牲 2 条良性输出,故按 knee rule 定在 0.5;推导时屏蔽了 massive-activation 排名前 0.5% 的维度,层 0–2 未纳入文件。该文件使用 glp.* GGUF 命名空间、仅支持投影式读取,绑定特定 revision,不能跨模型或跨 revision 使用。

    推荐理由:给出完整的 alpha 阶梯、拒绝率与良性对照数据,读者可以看清投影向量在哪个强度既解除拒绝又不伤正常输出。