跳到正文
10月19日周一
  1. Hugging Face · 新模型:uncensored62

    IndrasMirror 发布 DeepSeek-V4.1-Flash-1017 GSQ 无对齐量化版,152 GB 可在单张 RTX 4090 上运行

    IndrasMirror 发布 DeepSeek-V4.1-Flash-1017 的 GSQ 混合层级量化无对齐版本,552B 参数 MoE 压缩到 152 GB,可在 RTX 4090(24 GB)加 90 GB 内存的家用 PC 上以 12–13 tok/s 解码运行。模型对专家采用 ternary/2-bit/3-bit 混合量化(平均 2.093 bpw),并施加 mrfakename 风格的 rank-2 拒绝方向编辑;行为探针显示 chat 模式 100 个有害与 100 个安全样本均 0 次拒绝,think 模式同样 0 次拒绝。

    推荐理由:卡片给出了量化前后困惑度对比、拒绝探针和速度实测数据,读者可以据此判断这个 152 GB 版本在消费级硬件上的真实质量。

  2. Hugging Face · 新模型:uncensored72

    dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重版

    dealignai 团队发布 DeepSeek-V4.1-Flash 的权重级 abliterated 无对齐版本,基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone,8B/16B 激活),原生 FP8 权重、1M token 上下文,保留视觉、推理与工具能力。HarmBench-320 实测 CRACK 版在 effort=off/max 下均 100% 响应、零拒绝,MMLU-14k 整体从 86.96% 降至 82.74%,剔除伦理类后约 -1.1 pp。模型卡附 SGLang dsv4.1 分支与 vLLM 的部署路径、并发与显存经验数据,以及 ninja、--ep-size、reasoning parser 等启动坑位说明。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  3. Hugging Face · 新模型:abliterated50

    RTX 3080 20 GB 实测 Qwen3.8-27B 两个 abliterated 量化版的 MTP 速度与困惑度对比

    作者在单张 RTX 3080 20 GB 上用 llama.cpp 实测了 Qwen3.8-27B 的 Huihui 与 Heretic RVN 两个 abliterated 量化版本,仓库不含模型权重。结果显示 RVN IQ4_XS 在 MTP 下最快(代码 69.4 tok/s、散文 58.2 tok/s,比 Huihui 快约 5–7%),德语困惑度略低,通过 88.6K 上下文与全部 6 项工具调用测试,但多占 1.1 GB 显存导致 n-max 3 无法启动;MTP 草稿深度 n-max 2 是综合最优设置,MTP 对 prefill 无帮助反而约损失 5%。

  4. Hugging Face · 新模型:abliterated52

    huginnfork 发布 Qwen3.8-Flash-Next-FLARE-Abliterated 去对齐版

    huginnfork 发布基于 local-inference-lab/Qwen3.8-Flash-Next-FLARE 的 abliterated 版本,对 25,188 个张量中的 24,576 个做了拒绝方向编辑,属于不完整编辑。在 16 条提示词、协议 A(关闭思考)下,未编辑母模型拒绝率 100%,该版本为 18.8%,完整参考版为 0%;作者提醒 n=16 区间较宽,残余拒绝来自未编辑的 612 个注意力、共享专家和嵌入张量。

    推荐理由:原文给出拒绝率实测和未编辑张量清单,读者可以据此判断这个不完整消融版本到底去掉了多少对齐。

10月18日周日
  1. Hugging Face · 新模型:abliterated54

    huginnfork 发布 Qwen3.8-Flash-Next NVFP4 去对齐版 CSF 容器

    huginnfork 发布 Qwen3.8-Flash-Next-NVFP4-Abliterated v4 的 CSF 压缩容器,比原版小 3.58 GB,权重与 v4 逐位一致。消融在量化网格上原位进行,rank-1 拒绝方向取自第 46 层、alpha=1.0,共编辑 25,188 个张量;有害拒绝率从母模型的 136/136 降到 0/136,过度拒绝从 4/59 降到 0/59,GPQA 差异不显著(p=0.286)。需带 NVFP4-CSF reader 的 vLLM 源码构建才能加载,作者提醒该模型拒绝行为被有意降低,部署时需自备安全措施。

    推荐理由:原文给出rank-1拒绝方向消融的具体参数和与母模型的有害拒绝率对照数据,读者可据此评估这个去对齐版本的实际改动幅度。

  2. Hugging Face · 新模型:uncensored36

    Baekpica 发布 DeepSeek-V4.1-Flash-1017-UNCENSORED-VQ-GGUF 量化版

    Baekpica 将 dealignai 的 DeepSeek-V4.1-Flash-1017-UNCENSORED FP8 权重按 YoungAi 的 vq8sh14-q4k-mtpnative 配方原样转换为 VQ GGUF,基础文件约 113.6 GB,面向 128 GB DGX Spark,上下文保持原生 1,048,576 tokens。该量化约 1.6 bits per routed-expert weight,同配方在 V4.1 Flash 上与 FP8 模型 next token 一致率为 69–79%,质量与去审查行为可能下降。目标运行时为 ds4-dfm-rs,1017 Engram 表(2 × 101.5 GB)需从本地 SSD 读取。

  3. Hugging Face · 新模型:uncensored67

    candor-lab 发布 K2-Horizon-7B 去对齐版 GGUF,拒绝率从 287 降至 3

    candor-lab 用自研权重编辑工具 Candor 移除了 IFM 的 K2-Horizon-7B 的拒绝行为,以单个 Q4_K_M GGUF(5.59 GB)发布在 Hugging Face,Apache 2.0 协议。288 个 StrongREJECT 有害提示的拒绝数从原版 287 降到 3,300 个 Alpaca 无害提示拒绝数从 2 降到 0,KL 散度 0.052,GSM8K 正确数 1222 对 1209,均在噪声范围内。编辑为 rank-3 修改,覆盖 61 个输出矩阵;搜索的 313 次试验和最终评测均在 llama.cpp 中开启 thinking、reasoning effort high 下完成,前两名候选曾因数学成绩下降或思考预算耗尽被淘汰。

    推荐理由:原文给出拒绝率、KL 散度和 GSM8K 的前后对照数据,读者可以据此判断这次权重编辑到底去掉了什么、损失了多少。

  4. Hugging Face · 新模型:abliterated41

    bigfat/DeepSeek-V4.1-Flash-Abliterated-GGUF 发布

    bigfat 发布 DeepSeek-V4.1-Flash-Abliterated 的 DwarfStar Q2 GGUF 量化版本,基于 s-zaizen 用 Hereteric 对 deepseek-ai/DeepSeek-V4.1-Flash 去审查后的 checkpoint(拒绝关键词率 97/100 → 24/100)。提供 imatrix 校准版(推荐)与 bootstrap 版两个文件,imatrix 版 NLL 0.359,与原版 Q2(0.346)基本持平,需在 128 GB Mac 上用 --ssd-streaming 运行。

  5. Hugging Face · 新模型:abliterated54

    drowzeys 发布 DeepSeek-V4.1-Flash-1017 的 Abliterated 权重 overlay

    drowzeys 在 Hugging Face 发布 keys-DeepSeek-V4.1-Flash-1017-Abliterated,这是针对 deepseek-ai/DeepSeek-V4.1-Flash-1017 的 keys overlay 而非完整 checkpoint。消融范围为 L10–35 的 attn.wo_b(λ=3.5,k=1,mean Δrel ≈ 0.053),L0–9、L36–39、MTP、vision、Engram、experts 等锚点保持不动;Refusal32 32/32 BYPASS、0 拒绝、0 乱码,Cyber 22/22 BYPASS。

    推荐理由:原文给出了消融层范围、λ参数和 Refusal32 拒绝率前后对比,读者可据此判断这个去对齐 overlay 的实际改动幅度。

  6. Hugging Face · 新模型:uncensored67

    GLM-5.3 Uncensored Maya 量化版发布:753B MoE 压缩至约 2.5 bit 并移除拒绝行为

    nofacedfl 在 Hugging Face 发布 GLM-5.3 Uncensored Maya 量化包,将 Z.AI 的 753B MoE 模型用 GPTQ 压到约 2.5 bit,配合 Project Maya 的 GLM-5.3 移植版引擎运行。在 7 张 GPU(5× RTX 4090 48 GB + 2× A100 40 GB)上达 43–57 tokens/s,支持 512K 上下文,JailbreakBench 拒绝率从原版 39/40 降到 2/40,其中量化后为 6/40,再通过 78 层×3 方向的拒绝向量在运行时投影移除降至 2/40;对 FP8 的 KL 为 0.204、top-1 一致率 88.4%。

    推荐理由:原文给出完整的去对齐实现路径和 JailbreakBench 拒绝率前后对比,还附量化精度损失数据,可复现可核查。

  7. Hugging Face · 新模型:abliterated68

    Piecrust 发布 GLM-5.3-Flash-FP4-Abliterated 去对齐版本

    Piecrust 将 Huihui 的拒绝方向消融编辑重新应用到 NVIDIA 的 GLM-5.3-Flash-FP4-Local 权重上,发布去对齐版本。仅改动 15 至 36 层的 44 个矩阵(self_attn.o_proj 与 mlp.shared_experts.down_proj),其余权重与原检查点逐字节一致;因 NVIDIA 做过量化感知蒸馏,编辑以 rank-1 方式重算而非直接套用 delta,重编码后保留 91-95% 编辑强度。实测在 2× RTX PRO 6000 Blackwell 上拒绝探针 12 问 0 拒绝(原版拒绝 2 次),GSM8K 94/96 对 95/96,解码速度基本持平;需 NVIDIA 列出的容器环境,上游 vLLM 暂不支持。

    推荐理由:原文给出逐字节校验、拒绝探针前后对比和速度质量数据,可据此判断这个去对齐版本改了什么、代价多大。

  8. Hugging Face · 新模型:uncensored64

    dealignai 发布 DeepSeek-V4.1-Flash-1017 无对齐 EXL3 2.9bpw 量化包

    dealignai 基于 LibertAI 的 EXL3 2.9bpw 量化包(388 GB)发布 DeepSeek-V4.1-Flash-1017 无对齐版本,移除拒绝行为,支持 6 种语言、131K 上下文、thinking 开关与 vision/MTP/Engram 权重保留。实测 MMLU-500 从 67.40% 降至 63.20%(−4.20pp),HarmBench-320 chat 模式 320 项全部 COMPLY;在 RTX PRO 6000 上经 exllamav3-anemone + TabbyAPI 实测约 68 tok/s 解码、1105 tok/s 预填充。

    推荐理由:发布方给出了 MMLU 前后对比和 HarmBench 拒绝率数据,可以量化评估去对齐带来的能力损失。

  9. Hugging Face · 新模型:abliterated40

    Loke-60000 发布 Qwen3.8-Flash-Next-FP4-Local-abliterated 去拒答版模型

    Loke-60000 在 Hugging Face 发布 Qwen3.8-Flash-Next-FP4-Local-abliterated,基于 NVIDIA 的 Qwen3.8-Flash-Next-FP4-Local(revision b9ce18a)投影移除两个拒答方向,仅修改 80 个张量、21 个分片中的 2 个,量化格式不变。模型不再拒答,可能执行删除数据等破坏性请求;未跑任何 benchmark,需搭配基础模型其余 19 个分片使用,遵循 NVIDIA Open Model Agreement 和 Qwen Community License 1.0。

  10. Hugging Face · 新模型:uncensored50

    dealignai 发布 DeepSeek-V4.1-Flash-1017-UNCENSORED-FP8 去审查版模型

    dealignai 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的去审查 FP8 版本,移除拒绝行为并保留视觉、视频、工具调用、推理档位(low/high/max)与 1M token 上下文。模型采用原生 FP8 (e4m3) 权重加 FP4 MoE 专家,40 层 MoE,与上游字节兼容,MIT 许可,需手动申请访问;内部合规冒烟测试 10/10 全部通过,已在 4×H200(564 GB VRAM)上验证。

  11. Hugging Face · 新模型:abliterated18

    dealignai 发布 DeepSeek-V4.1-Flash-1017-ABLITERATED-FP8 镜像仓库

    Hugging Face 上新增 dealignai 的 DeepSeek-V4.1-Flash-1017-ABLITERATED-FP8 仓库,与 UNCENSORED 仓库为同一模型、同一发布日期,仅为方便搜索 "abliterated" 的别名引用。基础模型与推理引擎(inference/)、编码模块(encoding/)来自 DeepSeek-AI(MIT),再分发、量化(GGUF/MLX/EXL/AWQ)或微调时须署名 dealignai 并回链原仓库。

  12. Hugging Face · 新模型:abliterated20

    Huihui-Ornith-1.5-35B-A3B-abliterated 重打包版本上架 Hugging Face,适配 Tiiny 设备

    lafintiger 在 Hugging Face 上传了 huihui-ai/Huihui-Ornith-1.5-35B-A3B-abliterated 的重标注副本,权重未修改,仅将 base_model 标注改为同架构的 Qwen/Qwen3.6-35B-A3B,以便在 Tiiny 设备上导入。原模型是通过 abliteration 移除拒绝行为的无审查版本,仅对第 11 至 29 层做了消融,许可与署名归原作者。

  13. Reddit · r/LocalLLaMA60

    Xolotl 推理引擎在单张 RTX 4090 上以约 27 tok/s 运行 DeepSeek-V4.1-Flash 552B

    开发者 /u/indrasmirror 发布了基于 Strata 的推理引擎 Xolotl,可在单张 RTX 4090(24GB)加 90GB DDR4 和 NVMe 的游戏 PC 上运行 552B 的 DeepSeek-V4.1-Flash,权重分布在 VRAM、锁定内存和 NVMe 中并按 token 按需拉取专家。实测 27 tok/s 解码、180-320 tok/s 预填充、512K 上下文、HumanEval 21/21、工具调用 10/10、agentic 修 bug 3/3,同一引擎还能跑 GLM-5.3-Flash、Qwen3.8-Flash-Next 和 Qwen3.8-27B。

    推荐理由:作者给出了单张 RTX 4090 跑 552B 模型的具体配置和实测吞吐数据,方案可直接复现。

  14. Reddit · r/LocalLLaMA62

    DeepSeek V4.1 Flash 1017 的 abliterated 版与 GGUF 量化发布

    /u/mrfakename0 发布了 DeepSeek V4.1 Flash 1017 的 abliterated 版及 base 与去对齐版的 GGUF 量化(imatrix 尚在制作中)。拒绝率从 97/100 降到 4/100,think 模式从 98/100 降到 9/100;因 chat 与 think 模式拒绝方向不同,作者测量并移除了二者张成的 rank-2 子空间,并附上可免重新下载权重的 LoRA。

    同一新闻,精选展示《mrfakename 发布 DeepSeek-V4.1-Flash-1017 去对齐版》

  15. Hugging Face · 新模型:abliterated80

    mrfakename 发布 DeepSeek-V4.1-Flash-1017 去对齐版

    mrfakename 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 abliterated 版本,用方向性消融移除拒绝行为。chat 和 think 模式沿不同方向拒绝,因此移除 rank-2 拒绝子空间,逐层测量方向并投影出 40 个主层的残差流写入,各层强度由多目标搜索确定。Q8_0 GGUF 贪心解码下,chat 拒绝率从 97/100 降至 4/100,think 模式推理头拒绝从 98/100 降至 9/100,harmless 首词 KL 为 0.067;路由专家、嵌入、Engram 表和 DSpark/MTP 层与原版逐位一致,另提供 abliteration-lora.gguf 和 abliteration-edit.npz。

    推荐理由:原文给出rank-2拒绝子空间的消融方法和拒绝率前后对比数据,读者可据此判断这个去对齐版本实际去掉了多少。

  16. Hugging Face · 新模型:abliterated66

    distributedcognition 发布 Mellum2.1-12B-A2.5B-Thinking 的 abliterated 去对齐版本

    distributedcognition 在 Hugging Face 发布 JetBrains/Mellum2.1-12B-A2.5B-Thinking 的 abliterated 版本,用投影式 writer 级消融从权重中移除拒绝方向,gated alpha 0.8 下 104 条有害提示的 judge 拒绝从 12 降到 5,MMLU-14k 仅降 0.05pp。发布包含逐层拒绝方向文件(refusal_directions.pt、dirs.npz)供任意强度重消融,完整评测原始数据在 eval-results/,GGUF Q8_0 量化可在 llama.cpp、LM Studio、Ollama、Jan 运行,Apache 2.0 许可。

    推荐理由:原文给出消融方法细节和拒绝率、MMLU 前后对比数据,读者可据此判断这个去对齐版本的实际代价。

  17. Hugging Face · 新模型:abliterated22

    huihui-ai 发布 Huihui-Qwen-AgentWorld-35B-A3B-abliterated 去审查版本

    huihui-ai 基于 Qwen/Qwen-AgentWorld-35B-A3B 通过 abliteration 技术制作了去审查版本 Huihui-Qwen-AgentWorld-35B-A3B-abliterated,无需 TransformerLens 即可移除模型拒绝行为。该模型安全过滤大幅削弱,可能生成敏感或不当内容,官方建议仅用于研究、测试或受控环境,避免直接投入生产或面向公众的商业应用。

  18. Hugging Face · 新模型:uncensored60

    sky3c 发布 Qwen3.8-27B TURBO 去对齐 GGUF 微调版,ARC-C 达 735

    sky3c 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段微调 GGUF 版本,用 Heretic v1.2.0 的 ARA 方法去审查,8 bit 拒绝率从 99/100 降到 0/100,KL 散度 0.0535。模型将思考 token 减至原版的 1/2 到 1/10,8 bit ARC-C 735、ARC-E 882,4 bit ARC-C 719,作者称在全部 7 项基准上超过原版 Qwen3.8-27B。提供常规与 MTP 两种 GGUF 量化,Q4_K_S 下常规版约 75 t/s、MTP 版可超 90 t/s(5090 实测),支持 256k 上下文与视觉(需另下 mmproj 文件),工具调用建议 Q4_K_M 以上量化。

    同一新闻,精选展示《TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版,ARC-C 达 735》

  19. Hugging Face · 新模型:abliterated52

    msuiche 发布 DeepSeek-V4.1-Flash-1017 去拒绝控制向量 GLP-39-L1-39-a0.75

    Matt Suiche 在 Hugging Face 发布针对 DeepSeek-V4.1-Flash-1017 的投影控制向量(GLP),在残差流 layers 1–39 以 alpha 0.75 施加 h <- h - alpha*(h·d)d,不修改任何权重。校准阶梯显示 alpha 0.75 为拐点:refusal32 从 stock 1/32 提升到 23/32 comply,alpha 1.0 达 26/32 但中英代码混杂翻倍,alpha 2.0 反而回退到 10/32 且 31/32 出现混杂;验证基于 vLLM 离线 4x H200、greedy、thinking off、n=32。

    推荐理由:作者给出了完整的 alpha 校准阶梯和拒绝率、代码混杂等实测数据,读者可以据此判断这个控制向量的实际效果与适用边界。

  20. Hugging Face · 新模型:abliterated62

    koldfrontier 发布 Swift1.5-Qwen3.8-Flash-Next 的全量 abliterated 去对齐版本

    koldfrontier 在 Hugging Face 发布 ukisai/Swift1.5-Qwen3.8-Flash-Next 的 abliterated 衍生版,对全部 48 层共 24,720 个组件逐权重移除拒绝方向,无训练、无新数据。实测显示未授权框架下的保护性拒绝从 85% 降至 69%,有害请求服从率从 91.0% 升至 94.5%,良性提示的 KL 散度仅 0.0057,但 8 项能力探针丢了 3 项;方向捕获依赖 thinking 开启的提示模式,enable_thinking=False 时有害服从率仅 2.5%。作者定位其为安全研究产物而非安全对齐模型,数字为单模型案例研究。

    推荐理由:原文给出逐组件消融方法与消融前后的拒绝率、KL 散度对照数据,可据此判断这次去对齐实际改变了什么、损失了多少能力。

  21. Hugging Face · 新模型:uncensored38

    Qwen-Image-2.1 无审查版 GGUF 量化发布

    NeverWantedJr 基于 Qwen/Qwen-Image-2.1 上游权重发布无审查版 GGUF 量化文件,提供 BF16(14.23 GB)到 Q4_0(4.15 GB)多种规格,推荐 Q4_K_M(4.60 GB)兼顾体积与质量。该版本无内置安全检查器,可直接生成成人及 NSFW 内容,配套 qwen3vl_8b 文本编码器与 VAE 文件,通过 ComfyUI 与 ComfyUI-GGUF 本地运行,文本编码器卸载到内存可节省 9–17 GB 显存。

10月17日周六
  1. Hugging Face · 新模型:abliterated36

    humanizer-abliterated 11.96B 模型的 FP8-DYNAMIC 量化版发布

    moeshawky 发布 distributedcognition/humanizer-abliterated(11.96B 参数,Gemma4UnifiedForConditionalGeneration 架构)的 FP8-DYNAMIC 量化版,体积 13.02 GB,为 BF16 原版的 54.4%,仅对 328 个语言模型 linear 层做 E4M3 权重与动态激活量化,嵌入、lm_head 及视觉/音频模块保持 BF16。该版本经结构验证可运行,可在 vLLM、SGLang 或 Transformers 中直接加载,但未做 benchmark,无 perplexity 或吞吐数据。许可证为 apache-2.0,需遵守上游基础模型的附加条款。

  2. Hugging Face · 新模型:abliterated33

    Hemmingway-1-27B-abliterated FP8-DYNAMIC 量化版发布

    moeshawky 发布 distributedcognition/Hemmingway-1-27B-abliterated 的 FP8-DYNAMIC 8-bit 量化版,基于 27.32B 参数的 BF16 原模型,体积从 54.64 GB 降至 30.30 GB(55.5%)。仅量化语言模型解码器内 496 个 linear 层权重(F8_E4M3、per-channel 对称),激活为 per-token 动态量化,lm_head、embed_tokens、MTP 头与 Gated DeltaNet 状态张量保持 BF16。实测 FP8 权重 SNR 约 31.6 dB,可在 vLLM、SGLang 或 Transformers 直接加载,未做 benchmark。

  3. Hugging Face · 新模型:abliterated28

    Hemmingway-1-27B-abliterated 的 INT8 W8A8 量化版发布

    moeshawky 发布 distributedcognition/Hemmingway-1-27B-abliterated 的 INT8 W8A8 动态量化版,基于 27.32B 参数的 BF16 原模型,体积从 54.64 GB 降至 30.30 GB(55.5%),仅量化语言模型解码器中的 496 个 linear 层,lm_head、embed_tokens、MTP 头与 Gated DeltaNet 状态张量保持 BF16。实测 INT8 权重 SNR 约 39.6–40.8 dB,logits 分布接近原模型;可直接在 vLLM、SGLang 或 Transformers 中加载,尚未做 benchmark、吞吐或消融鲁棒性测试,许可证为 apache-2.0。

  4. Hugging Face · 新模型:uncensored26

    Baekpica 发布 GLM-5.3-Flash-Uncensored VQ GGUF 量化转换(转换进行中)

    Baekpica 正在将 abliterated 版 GLM-5.3-Flash-Uncensored-FP8 转换为实验性 GVQ1/GGUF v3 格式(Q4_K nonexpert v3),权重上传前仓库暂不可加载。转换复用 GLM-5.3-Flash-VQ-GGUF 的结构:36,288 个路由专家矩阵用八维 VQ(K8192,每权重 1.625 index bits),316 个非专家矩阵用 Q4_K,面向 DGX Spark (GB10) 服务。模型经 abliteration 移除了安全对齐,采用 MIT 许可,仅声明研究用途。

  5. Hugging Face · 新模型:abliterated60

    Qwen2.5-32B-Instruct abliterated 去对齐版本发布

    varun-balani 在 Hugging Face 发布 Qwen2.5-32B-Instruct 的 abliterated 版本,用 Heretic 的 ARA 修饰器去除拒绝方向。mlabonne/harmful_behaviors 拒绝率从 98/100 降到 10/100,相对基座模型 KL 散度 0.22;该结果从 24 次试验的优化中选出,提供 bf16 全量权重及 Q4_K_M(约 20 GB)和 Q8_0(约 35 GB)GGUF 量化版本,Q4_K_M 可在约 36 GB 内存的本地环境用 Ollama、LM Studio 或 llama.cpp 运行。

    推荐理由:原文给出拒绝率前后对比和 KL 散度数据,可据此判断这个去对齐版本的行为漂移程度。

  6. Reddit · r/LocalLLaMA22

    用 LORA 去除模型审查的社区讨论

    Reddit r/LocalLLaMA 用户提出用 LORA 移除大语言模型的拒绝行为,相比 heretic 等直接修改模型权重的通用方法成本更低、更灵活,可按需加载/卸载并保持模型原样。作者提到 Krea2 turbo/base 已有去除文本编码器审查的 LORA,并询问该方法与 heretic 或 cyber 版本在 glm 5.3 Flash 上的优劣对比。

  7. Hugging Face · 新模型:uncensored44

    Qwen3.8-27B Defiance Uncensored (MTP, GGUF) 发布:40 种模式的无审查版

    ttindall 将 DavidAU 的 Turbo-Brilliance "AI Construct" 模式套用到 HauhauCS 的无审查 Qwen3.8-27B 上,发布 Defiance Uncensored GGUF,移除拒绝层,提供 Joker、Dr. House、20-agent Einstein panel 等 40 种模式。权重与上游逐字节一致(866 个 tensor 全部核对),IQ4_XS 量化 15.7 GB 可在 24 GB 显卡跑 131K 上下文,RTX 4090 上 instruct 模式解码 86-90 tok/s,兼容 llama.cpp、LM Studio 和 Ollama。

  8. Hugging Face · 新模型:abliterated70

    BoldingBuilds 发布 Muse Spark Open 816B 的无审查 GGUF 版本

    BoldingBuilds 发布 Meta Muse Spark Open(816B 总参数 / 42B 激活)的无审查 abliterated 版本,直接在 Unsloth UD-IQ1_S GGUF 上原位编辑,全程不做 BF16 反量化。拒绝率从原版 85.06% 降到 1.30%(StrongREJECT 留出集),ForbiddenQuestions 上从 60.00% 降到 0.00%,XSTest 过度拒绝保持 0%,MATH-30 为 25/30 对原版 26/30。方法为对 62 层中第 10-53 块做读写侧投影(λ=1.0,每块单独估计拒绝方向,共 61 个方向),编辑 309 个张量、256 个路由专家未动,λ=0 时输出与输入字节一致作为自检门槛。

    推荐理由:原文给出拒绝率前后对照与逐块方向估计方法,读者可据此判断这个去对齐版本实际去掉了多少、代价多大。

  9. Hugging Face · 新模型:abliterated22

    mradermacher/Vietnamese-4B-Chat-abliterated-GGUF 模型使用指南

    mradermacher/Vietnamese-4B-Chat-abliterated-GGUF 是一个 abliterated 版本的越南语 4B Chat 模型 GGUF 量化仓库,提供 Q4_K_M 等量化版本。该模型可通过 llama.cpp 在 macOS、Linux、Windows 上运行,支持启动 OpenAI 兼容的本地服务器或终端直接推理,也可通过 Ollama、Docker Model Runner、LM Studio、Jan 等工具加载,并可接入 Pi、Hermes、OpenClaw 等 Agent 工具。