跳到正文
10月18日周日
  1. Hugging Face · 新模型:abliterated22

    huihui-ai 发布 Huihui-Qwen-AgentWorld-35B-A3B-abliterated 去审查版本

    huihui-ai 基于 Qwen/Qwen-AgentWorld-35B-A3B 通过 abliteration 技术制作了去审查版本 Huihui-Qwen-AgentWorld-35B-A3B-abliterated,无需 TransformerLens 即可移除模型拒绝行为。该模型安全过滤大幅削弱,可能生成敏感或不当内容,官方建议仅用于研究、测试或受控环境,避免直接投入生产或面向公众的商业应用。

  2. Hugging Face · 新模型:uncensored60

    sky3c 发布 Qwen3.8-27B TURBO 去对齐 GGUF 微调版,ARC-C 达 735

    sky3c 在 Hugging Face 发布基于 Qwen3.8-27B 的多阶段微调 GGUF 版本,用 Heretic v1.2.0 的 ARA 方法去审查,8 bit 拒绝率从 99/100 降到 0/100,KL 散度 0.0535。模型将思考 token 减至原版的 1/2 到 1/10,8 bit ARC-C 735、ARC-E 882,4 bit ARC-C 719,作者称在全部 7 项基准上超过原版 Qwen3.8-27B。提供常规与 MTP 两种 GGUF 量化,Q4_K_S 下常规版约 75 t/s、MTP 版可超 90 t/s(5090 实测),支持 256k 上下文与视觉(需另下 mmproj 文件),工具调用建议 Q4_K_M 以上量化。

    同一新闻,精选展示《TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版,ARC-C 达 735》

  3. Hugging Face · 新模型:abliterated52

    msuiche 发布 DeepSeek-V4.1-Flash-1017 去拒绝控制向量 GLP-39-L1-39-a0.75

    Matt Suiche 在 Hugging Face 发布针对 DeepSeek-V4.1-Flash-1017 的投影控制向量(GLP),在残差流 layers 1–39 以 alpha 0.75 施加 h <- h - alpha*(h·d)d,不修改任何权重。校准阶梯显示 alpha 0.75 为拐点:refusal32 从 stock 1/32 提升到 23/32 comply,alpha 1.0 达 26/32 但中英代码混杂翻倍,alpha 2.0 反而回退到 10/32 且 31/32 出现混杂;验证基于 vLLM 离线 4x H200、greedy、thinking off、n=32。

    推荐理由:作者给出了完整的 alpha 校准阶梯和拒绝率、代码混杂等实测数据,读者可以据此判断这个控制向量的实际效果与适用边界。

  4. Hugging Face · 新模型:abliterated62

    koldfrontier 发布 Swift1.5-Qwen3.8-Flash-Next 的全量 abliterated 去对齐版本

    koldfrontier 在 Hugging Face 发布 ukisai/Swift1.5-Qwen3.8-Flash-Next 的 abliterated 衍生版,对全部 48 层共 24,720 个组件逐权重移除拒绝方向,无训练、无新数据。实测显示未授权框架下的保护性拒绝从 85% 降至 69%,有害请求服从率从 91.0% 升至 94.5%,良性提示的 KL 散度仅 0.0057,但 8 项能力探针丢了 3 项;方向捕获依赖 thinking 开启的提示模式,enable_thinking=False 时有害服从率仅 2.5%。作者定位其为安全研究产物而非安全对齐模型,数字为单模型案例研究。

    推荐理由:原文给出逐组件消融方法与消融前后的拒绝率、KL 散度对照数据,可据此判断这次去对齐实际改变了什么、损失了多少能力。

  5. Hugging Face · 新模型:uncensored38

    Qwen-Image-2.1 无审查版 GGUF 量化发布

    NeverWantedJr 基于 Qwen/Qwen-Image-2.1 上游权重发布无审查版 GGUF 量化文件,提供 BF16(14.23 GB)到 Q4_0(4.15 GB)多种规格,推荐 Q4_K_M(4.60 GB)兼顾体积与质量。该版本无内置安全检查器,可直接生成成人及 NSFW 内容,配套 qwen3vl_8b 文本编码器与 VAE 文件,通过 ComfyUI 与 ComfyUI-GGUF 本地运行,文本编码器卸载到内存可节省 9–17 GB 显存。

10月17日周六
  1. Hugging Face · 新模型:abliterated36

    humanizer-abliterated 11.96B 模型的 FP8-DYNAMIC 量化版发布

    moeshawky 发布 distributedcognition/humanizer-abliterated(11.96B 参数,Gemma4UnifiedForConditionalGeneration 架构)的 FP8-DYNAMIC 量化版,体积 13.02 GB,为 BF16 原版的 54.4%,仅对 328 个语言模型 linear 层做 E4M3 权重与动态激活量化,嵌入、lm_head 及视觉/音频模块保持 BF16。该版本经结构验证可运行,可在 vLLM、SGLang 或 Transformers 中直接加载,但未做 benchmark,无 perplexity 或吞吐数据。许可证为 apache-2.0,需遵守上游基础模型的附加条款。

  2. Hugging Face · 新模型:abliterated33

    Hemmingway-1-27B-abliterated FP8-DYNAMIC 量化版发布

    moeshawky 发布 distributedcognition/Hemmingway-1-27B-abliterated 的 FP8-DYNAMIC 8-bit 量化版,基于 27.32B 参数的 BF16 原模型,体积从 54.64 GB 降至 30.30 GB(55.5%)。仅量化语言模型解码器内 496 个 linear 层权重(F8_E4M3、per-channel 对称),激活为 per-token 动态量化,lm_head、embed_tokens、MTP 头与 Gated DeltaNet 状态张量保持 BF16。实测 FP8 权重 SNR 约 31.6 dB,可在 vLLM、SGLang 或 Transformers 直接加载,未做 benchmark。

  3. Hugging Face · 新模型:abliterated28

    Hemmingway-1-27B-abliterated 的 INT8 W8A8 量化版发布

    moeshawky 发布 distributedcognition/Hemmingway-1-27B-abliterated 的 INT8 W8A8 动态量化版,基于 27.32B 参数的 BF16 原模型,体积从 54.64 GB 降至 30.30 GB(55.5%),仅量化语言模型解码器中的 496 个 linear 层,lm_head、embed_tokens、MTP 头与 Gated DeltaNet 状态张量保持 BF16。实测 INT8 权重 SNR 约 39.6–40.8 dB,logits 分布接近原模型;可直接在 vLLM、SGLang 或 Transformers 中加载,尚未做 benchmark、吞吐或消融鲁棒性测试,许可证为 apache-2.0。

  4. Hugging Face · 新模型:uncensored26

    Baekpica 发布 GLM-5.3-Flash-Uncensored VQ GGUF 量化转换(转换进行中)

    Baekpica 正在将 abliterated 版 GLM-5.3-Flash-Uncensored-FP8 转换为实验性 GVQ1/GGUF v3 格式(Q4_K nonexpert v3),权重上传前仓库暂不可加载。转换复用 GLM-5.3-Flash-VQ-GGUF 的结构:36,288 个路由专家矩阵用八维 VQ(K8192,每权重 1.625 index bits),316 个非专家矩阵用 Q4_K,面向 DGX Spark (GB10) 服务。模型经 abliteration 移除了安全对齐,采用 MIT 许可,仅声明研究用途。

  5. Hugging Face · 新模型:abliterated60

    Qwen2.5-32B-Instruct abliterated 去对齐版本发布

    varun-balani 在 Hugging Face 发布 Qwen2.5-32B-Instruct 的 abliterated 版本,用 Heretic 的 ARA 修饰器去除拒绝方向。mlabonne/harmful_behaviors 拒绝率从 98/100 降到 10/100,相对基座模型 KL 散度 0.22;该结果从 24 次试验的优化中选出,提供 bf16 全量权重及 Q4_K_M(约 20 GB)和 Q8_0(约 35 GB)GGUF 量化版本,Q4_K_M 可在约 36 GB 内存的本地环境用 Ollama、LM Studio 或 llama.cpp 运行。

    推荐理由:原文给出拒绝率前后对比和 KL 散度数据,可据此判断这个去对齐版本的行为漂移程度。

  6. Hugging Face · 新模型:uncensored44

    Qwen3.8-27B Defiance Uncensored (MTP, GGUF) 发布:40 种模式的无审查版

    ttindall 将 DavidAU 的 Turbo-Brilliance "AI Construct" 模式套用到 HauhauCS 的无审查 Qwen3.8-27B 上,发布 Defiance Uncensored GGUF,移除拒绝层,提供 Joker、Dr. House、20-agent Einstein panel 等 40 种模式。权重与上游逐字节一致(866 个 tensor 全部核对),IQ4_XS 量化 15.7 GB 可在 24 GB 显卡跑 131K 上下文,RTX 4090 上 instruct 模式解码 86-90 tok/s,兼容 llama.cpp、LM Studio 和 Ollama。

  7. Hugging Face · 新模型:abliterated70

    BoldingBuilds 发布 Muse Spark Open 816B 的无审查 GGUF 版本

    BoldingBuilds 发布 Meta Muse Spark Open(816B 总参数 / 42B 激活)的无审查 abliterated 版本,直接在 Unsloth UD-IQ1_S GGUF 上原位编辑,全程不做 BF16 反量化。拒绝率从原版 85.06% 降到 1.30%(StrongREJECT 留出集),ForbiddenQuestions 上从 60.00% 降到 0.00%,XSTest 过度拒绝保持 0%,MATH-30 为 25/30 对原版 26/30。方法为对 62 层中第 10-53 块做读写侧投影(λ=1.0,每块单独估计拒绝方向,共 61 个方向),编辑 309 个张量、256 个路由专家未动,λ=0 时输出与输入字节一致作为自检门槛。

    推荐理由:原文给出拒绝率前后对照与逐块方向估计方法,读者可据此判断这个去对齐版本实际去掉了多少、代价多大。

  8. Hugging Face · 新模型:abliterated22

    mradermacher/Vietnamese-4B-Chat-abliterated-GGUF 模型使用指南

    mradermacher/Vietnamese-4B-Chat-abliterated-GGUF 是一个 abliterated 版本的越南语 4B Chat 模型 GGUF 量化仓库,提供 Q4_K_M 等量化版本。该模型可通过 llama.cpp 在 macOS、Linux、Windows 上运行,支持启动 OpenAI 兼容的本地服务器或终端直接推理,也可通过 Ollama、Docker Model Runner、LM Studio、Jan 等工具加载,并可接入 Pi、Hermes、OpenClaw 等 Agent 工具。

  9. Hugging Face · 新模型:abliterated28

    irwanworld 发布 Irwan-LightOnOCR-3-0.8B-abliterated:去除拒绝倾向的 OCR 视觉语言模型

    irwanworld 在 Hugging Face 发布 Irwan-LightOnOCR-3-0.8B-abliterated,基于 lightonai/LightOnOCR-3-0.8B(Qwen3.5-VL 0.8B 架构的 OCR 微调模型),通过从 huihui-ai/Huihui-Qwen3.5-0.8B-abliterated 提取权重差值(alpha=1.0、bfloat16)做 abliteration transfer,去除面对显式内容时的拒绝倾向,同时保留 OCR 能力。用法与原模型一致,无 API 变更;CPU 推理仅约 0.3 token/秒,生产环境建议用 GPU,OCR 质量尚未正式评测。

  10. Hugging Face · 新模型:uncensored72

    dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重版

    dealignai 团队基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone,8B/16B 激活)发布权重级 abliterated 无对齐版本,以原生 FP8 权重提供,支持 1M token 上下文、视觉与工具调用。HarmBench-320 实测显示 CRACK 版在 effort=off 和 max 下均 100% 通过,而基座模型分别为 42.81% 和 1.56%;MMLU-14k 整体下降 4.22 pp,剔除伦理类科目后约 -1.1 pp。模型卡还给出 SGLang 部署配置、KV 内存占用估算(890 B/token)、4×H200 上的吞吐数据(单流 101 tok/s,DSpark 后 113 tok/s)及多项启动注意事项。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  11. Hugging Face · 新模型:uncensored60

    tatekuperus 发布 Qwen3.6-27B-Fable-Fusion-711 无对齐 GGUF 量化版

    tatekuperus 在 Hugging Face 发布基于 Qwen/Qwen3.6-27B 的多阶段微调与合并模型 Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic GGUF 量化版,作者称其为首个在 8bit 和 4bit 下 ARC-C 超过 700 的该规模微调。去审查由 trohrbaugh 用 Heretic v1.2.0+custom 的 Arbitrary-Rank Ablation 方法完成,拒绝率从原版 99/100 降至 4/100,KL 散度 0.0469;作者给出的基准显示该模型在 7 项基准中 6 项超过 Qwen3.6-27B 基座。

    推荐理由:作者给出 Heretic 消融方法与去审查前后拒绝率对比,并附多组基准和第三方实测数据,可核对去对齐是否损伤模型能力。

  12. Hugging Face · 新模型:abliterated52

    distributedcognition 发布 humanizer-abliterated 去对齐版

    distributedcognition 在 Hugging Face 发布 jialinyyzz/humanizer(gemma-4 12B 微调的 AI 文风改写模型)的 abliterated 变体,用投影式 writer 级消融在 32 层移除拒绝方向,alpha 0.8。实测基座模型在 104 个有害改写提示上拒绝率仅 2/104,消融后拒绝率不变,MMLU-2280 仅降 0.04pp,GSM8K 持平;refusal_directions.pt 支持任意强度秒级重新消融,附 GGUF 量化可在 llama.cpp、Ollama 等运行,Apache 2.0。

    推荐理由:原文给出完整的消融方法、拒绝率与 MMLU 前后对比,并诚实指出基座模型本就几乎不拒绝,读者可据此判断去对齐的实际意义。

  13. Hugging Face · 新模型:abliterated64

    distributedcognition 发布 Inkling(975B/41B MoE)的 abliterated 去对齐版本

    distributedcognition 在 Hugging Face 发布 thinkingmachines/Inkling(975B 总参数/41B 激活,多模态 MoE)的 abliterated 版本,用 norm-preserving biprojected 消融在权重层面移除拒绝方向,提供 main(scale 2.5)和 scale-3.0 两个分支。

    推荐理由:原文给出完整的消融方法、拒绝率与 KL 前后对比数据,读者可以据此判断这个 975B 模型去对齐后付出的能力代价。

  14. Hugging Face · 新模型:abliterated56

    edp1096 发布 Huihui-Qwen3.8-Flash-Next-abliterated-FP4-Local 量化检查点

    edp1096 在 Hugging Face 发布 Huihui-Qwen3.8-Flash-Next-abliterated-FP4-Local,将经审计的 Huihui v2 修改从匹配的 Unsloth/Huihui Q8_0 权重迁移到 NVIDIA FP4-Local 检查点,变更投影重建后取整为 BF16 并编码为 MXFP8,NVFP4 专家、PLE、MTP、视觉与 tokenizer 保留 NVIDIA 原始字节。

    推荐理由:原文给出了量化 delta 迁移的具体做法和 DGX Spark 上的运行测试记录,读者可以据此判断该检查点的实际可用状态。

10月16日周五
  1. Hugging Face · 新模型:uncensored52

    Qwen3.8-27B TURBO 微调版发布 GGUF 权重,ARC-C 达 735 并大幅压缩思考 token

    TTPPCC121 等多人协作发布基于 Qwen3.8-27B 的多阶段微调 GGUF 版本,8bit ARC-C 735、ARC-E 882,4bit ARC-C 719,均高于原版 Qwen3.8-27B(8bit ARC-C 0.591)。模型用 Heretic v1.2.0+ARA 方法去对齐,Stage 1 拒绝率从 99/100 降到 0/100,KL 散度 0.0535;思考 token 减至原版的 1/2 到 1/10。提供常规与 MTP 两种 GGUF,Q4_K_S 下常规约 75 t/s、MTP 可超 90 t/s(5090、LMStudio 实测),支持 256k 上下文与视觉(需另下 mmproj 文件)。

    同一新闻,精选展示《TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版,ARC-C 达 735》

  2. Hugging Face · 新模型:uncensored78

    AtomicChat 发布 NVIDIA Nemotron 3.5 Bolt 74B-A9B 无拒绝 GGUF 版

    AtomicChat 将 NVIDIA Nemotron 3.5 Bolt 74B-A9B 的拒绝行为从权重中投影移除,发布 Atomic Dynamic GGUF 量化版本。在留出的 JailbreakBench 提示上拒绝率从 97.5% 降到 0%,俄语红队提示从 70% 降到 0%,开启思考时 30 条全部不再拒绝;MMLU 从 81.35% 到 81.75%(McNemar p=0.29),工具调用和 30k 长上下文检索不受影响。

    推荐理由:原文给出拒绝率前后对比、MMLU 差异和 KLD 数据,读者可据此判断这次去拒绝编辑的代价与效果。

  3. Hugging Face · 新模型:abliterated25

    Hugging Face 上架 huihui-ai/Huihui-MiniCPM5-1B-abliterated:MiniCPM5-1B 去审查版本

    huihui-ai 发布 openbmb/MiniCPM5-1B 的 abliterated 去审查版本 Huihui-MiniCPM5-1B-abliterated,通过 abliteration 技术移除模型拒绝回答行为,无需 TransformerLens。模型安全过滤大幅降低,可能生成敏感或不当内容,官方建议仅用于研究、测试或受控环境,避免直接用于生产或面向公众的商业应用。

  4. Hugging Face · 新模型:abliterated42

    Huihui-Qwen3.8-27B-abliterated GGUF 发布:Qwen3.8-27B 去审查版本

    huihui-ai 发布 Qwen/Qwen3.8-27B 的 abliterated 去审查版本,通过 abliteration 技术移除模型拒绝回答的行为,仅消融部分层(如 22 至 52 层),MTP 与视觉部分未改动。提供 Q2_K_L 至 Q8_0_L 等多种量化格式,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行,支持 -c 262144 上下文。模型安全过滤大幅降低,建议用于研究测试而非生产环境。

  5. Hugging Face · 新模型:uncensored66

    OS-Software 发布 LFM2.5-24B-A2B-Uncensored-Heretic 去对齐版本

    OS-Software 基于 LiquidAI/LFM2.5-24B-A2B 发布去对齐版本,用自研 Heretic fork 只改动 layers 18、22、26 的 self_attn.out_proj 权重并烘焙进 BF16。实测 100 条日语有害提示词的拒绝率从原版 94-99/100 降到 0-1/100,QAD Q4_0 的 MMLU 为 55.35%(较原版 -0.62),并提供 Q4_0 到 Q8_0 多档 GGUF;模型仍会先思考再回答,输出偏长,建议 8k 以上输出预算,仅供研究实验用途。

    推荐理由:作者给出了各量化档位的拒绝率前后对比和 KL 散度、MMLU 数据,可以据此评估这个去对齐版本改动幅度与能力损失。

  6. Hugging Face · 新模型:uncensored64

    OS-Software 发布 LFM2.5-24B-A2B 去对齐 GGUF 版,拒绝率从 99/100 降至 0/100

    OS-Software 在 Hugging Face 发布 LiquidAI/LFM2.5-24B-A2B 的去对齐 GGUF 版本,使用 Heretic 的自定义 fork,仅改动第 18、22、26 层的 attention output projections。实测 100 条日语有害提示词的拒绝率从原版 94-99/100 降至 0-1/100,QAD Q4_0 的 MMLU 为 55.35%(原版 55.97%)。提供 Q4_0 到 Q8_0 多个量化档位,模型仍会先思考再回答,作者建议输出预算设 8k token 以上,仅供研究实验使用。

    同一新闻,精选展示《OS-Software 发布 LFM2.5-24B-A2B-Uncensored-Heretic 去对齐版本》

  7. Hugging Face · 新模型:abliterated22

    Huihui-Qwen3.8-Flash-Next-abliterated-GGUF 发布:Qwen3.8-Flash-Next 去审查版本

    huihui-ai 基于 abliteration 技术发布 Qwen/Qwen3.8-Flash-Next 的去审查 GGUF 版本,移除模型拒绝回答行为,无需 TransformerLens。新增 Unsloth 系列与 Swift 系列 GGUF,均支持最新版 Strata 和 llama.cpp,可用 llama-cli 加载 UD-Q4_K_XL 量化文件并将上下文设为 262144。该模型安全过滤大幅降低,可能生成敏感或不当内容,建议仅用于研究、测试或受控环境。

  8. Hugging Face · 新模型:uncensored76

    candor-lab 发布 Qwen3.5-9B 去对齐版 GGUF 权重

    candor-lab 用自研权重编辑工具 Candor 移除 Qwen3.5-9B 的拒绝行为,以 rank-1 编辑每层 attention 与 MLP 输出矩阵,发布单个 Q4_K_M GGUF 文件(5.78 GB)。实测 288 条 StrongREJECT 有害提示拒绝数从 279 降到 0,无害提示拒绝 5 降到 2,GSM8K 正确数与原模型差异在噪声内;与 heretic 最佳试验相比,有害提示中位思考 token 为 996 对 1648,数学超预算次数也更少。基于 Qwen/Qwen3.5-9B 原始 16 位权重,不含视觉编码器,Apache 2.0 协议,仅用 llama.cpp b11524 在思考开启下实测,LM Studio 和 Ollama 等未验证。

    推荐理由:原文给出与原模型和 heretic 对照的拒绝率、KL 散度和 GSM8K 数据,可据此判断这次权重编辑的代价与效果。

  9. Hugging Face · 新模型:uncensored74

    LFM2.5-24B-A2B 去对齐版发布,英文拒绝率从 96.3% 降到 1.2%

    AtomicChat 发布 Liquid LFM2.5-24B-A2B 的去对齐版本,仅编辑 blocks 14-39 的 52 个矩阵,英文拒绝率从 96.3% 降至 1.2%,俄语从 62% 降至 0%,思考模式下从 30/30 降至 0。MMLU 从 64.40% 到 65.55% 基本不变,提供 6 个 GGUF 量化版本和一个 24 MB LoRA 适配器(可用 --lora-scaled 加载,推荐 scale 1.75),方法基于 Arditi et al. 2024 的单方向拒绝机制研究。

    同一新闻,精选展示《LFM2.5-24B-A2B 去对齐版发布:英文拒绝率从 96.3% 降到 1.2%》

  10. Hugging Face · 新模型:abliterated38

    glivorem 发布 Qwen3-4B-Instruct-2507-abliterated 去拒绝版本

    glivorem 用 Heretic 工具对 Qwen3-4B-Instruct-2507 做 abliteration 处理,通过方向消融直接编辑权重移除模型的拒绝行为,未做新数据微调,知识与通用能力接近原版。模型为 4B 参数非思考 instruct 模型,262k 原生上下文,BF16 safetensors 格式,Apache 2.0 许可,可在 vLLM 和 Transformers 中使用,无内置安全护栏。

  11. Hugging Face · 新模型:abliterated40

    Huihui-Qwen3.8-27B-abliterated GGUF 发布:Qwen3.8-27B 去审查版本

    huihui-ai 发布 Qwen/Qwen3.8-27B 的 abliterated 去审查 GGUF 版本,通过 abliteration 技术移除模型拒答行为,仅对部分层(如 22 至 52 层)做消融,MTP 与视觉部分未改动。提供 Q2_K_L 至 Q8_0_L 等多种量化格式,支持最新版 ollama(huihui_ai/Qwen3.8-abliterated)和 llama.cpp(-c 262144),适合研究测试用途。

  12. Hugging Face · 新模型:abliterated22

    eccentricorbit 发布 Qwen3-4B-Instruct-2507-abliterated 去审查模型

    eccentricorbit 基于 Qwen/Qwen3-4B-Instruct-2507 用 Heretic 制作了 abliterated 版本,通过 directional ablation 直接修改权重移除模型的拒绝行为,未做新数据微调,知识与通用能力接近原版。模型为 4B 参数、262k 原生上下文的非思考 instruct 模型,BF16 safetensors 格式,Apache 2.0 许可,可在 vLLM 和 Transformers 中使用,无内置安全护栏。

  13. Hugging Face · 新模型:abliterated78

    BoldingBuilds 发布 NVIDIA Nemotron-3.5-Bolt-74B-A9B 无对齐 24GB GGUF 版本

    BoldingBuilds 在 Hugging Face 发布 NVIDIA Nemotron-3.5-Bolt-74B-A9B 的无对齐版本,直接在 24GB 2-bit GGUF 上做权重空间消融,未经过 BF16 重量化,保留了 NVIDIA 量化感知蒸馏产出的约 17GB IQ2_XXS 专家权重。编辑共改动 100 个张量,采用 Arditi et al. 2024 的均值差方向法,λ=0 时输出与原文件逐字节一致作为自检门槛。

    推荐理由:原文给出完整的消融方法、拒绝率与能力对照数据,读者可以据此评估这个去对齐版本的实际效果与局限。

  14. Hugging Face · 新模型:uncensored72

    AtomicChat 发布 NVIDIA Nemotron 3.5 Super VL 120B-A12B 无拒绝 GGUF 版

    AtomicChat 将 NVIDIA Nemotron 3.5 Super VL 120B-A12B 的拒绝行为从权重中移除,发布 Atomic Dynamic GGUF 量化版本。JailbreakBench 拒绝率从 95.1% 降到 0%,俄语红队提示从 76% 降到 2%,MMLU 保持 85.05% 到 85.10% 基本不变;方法基于 Arditi et al. 2024 的单一方向拒绝机制,对写入残差流的 128 个矩阵做投影编辑,提供 AD-Q4_K_S、AD-IQ3_XXS、AD-Q2_0_L 三档量化,上游 llama.cpp 可直接运行。

    推荐理由:原文给出拒绝率前后对比、MMLU 对照和量化误差数据,读者可以据此判断这次去对齐编辑的代价到底有多大。

  15. Hugging Face · 新模型:abliterated24

    notfakerv 发布 LFM2.5-24B-A2B-abliterated 的 MLX 4-bit 量化版

    notfakerv/LFM2.5-24B-A2B-abliterated-MLX-4bit 是 abliterated 版 LFM2.5-24B-A2B 的 MLX 4-bit affine 量化转换,权重 13.49 GB,直接由 BF16 检查点转换而非 GGUF 重量化,需 MLX LM >= 0.32.0 与 MLX >= 0.32.2。该模型为 always-thinking 推理模型,建议 24 GB 统一内存起步;验证限于冒烟与数值检查,未做 Apple Silicon 运行时测试或速度基准。

  16. Hugging Face · 新模型:uncensored62

    AtomicChat 发布 Ternary-Bonsai-2-2B 去对齐 LoRA 适配器(GGUF)

    AtomicChat 发布 Ternary-Bonsai-2-2B-gguf 的 rank-1 投影 LoRA,通过移除 attn_output、ssm_out、ffn_down 中的拒绝方向实现去对齐,基础权重不变,以适配器形式发布。拒绝率从 87.5% 降到 0.0%,无害提示误拒为 0.0%,MMLU(n=300)从 31.7 变为 34.3;推荐 scale 1.0(1.5 开始退化),残差泄漏约 1e-4,作者标注为研究级产物,完整逐条日志在 -metrics 仓库。

    推荐理由:原文给出拒绝率与 MMLU 前后对比数据,并说明残差泄漏等局限,读者可据此判断该去对齐适配器的实际代价。