跳到正文
10月16日周五
  1. Hugging Face · 新模型:uncensored62

    AtomicChat 发布 Ternary-Bonsai-2-4B 去对齐 LoRA 适配器(GGUF)

    AtomicChat 发布 rank-1 投影 LoRA,通过移除 Ternary-Bonsai-2-4B-gguf 残留写入路径(attn_output、ssm_out、ffn_down)中的拒绝方向实现去对齐,基础权重不变,以适配器形式发布。实测显示有害拒绝率从 99.0% 降到 0.0%,无害提示误拒率从 1.0% 降到 0.0%,MMLU(n=300)从 68.7 到 69.0;推荐 scale 1.0(1.5 开始退化),残留泄漏约 1e-4,作者标注为研究级产物,完整逐条日志在 -metrics 仓库。

    同一新闻,精选展示《AtomicChat 发布 Ternary-Bonsai-2-9B 去对齐 LoRA(GGUF)》

  2. Hugging Face · 新模型:uncensored62

    AtomicChat 发布 Ternary-Bonsai-2-9B 去对齐 LoRA(GGUF)

    AtomicChat 在 Hugging Face 发布 rank-1 投影 LoRA,通过移除 Ternary-Bonsai-2-9B-gguf 残差写入路径(attn_output、ssm_out、ffn_down)的拒绝方向实现去对齐,基础权重不变,以适配器形式发布。拒绝率从 100.0% 降至 0.0%,无害提示误拒从 1.9% 降至 0.0%,MMLU(n=300)从 76.0 降至 71.7;推荐 scale 1.0(1.5 开始退化),残差泄漏约 1e-4,作者标注为研究级产物,许可证继承基座模型。

    推荐理由:原文给出拒绝率与 MMLU 的前后对照数据,读者可据此权衡这个去对齐 LoRA 的收益与能力损失。

10月15日周四
  1. Hugging Face · 新模型:abliterated42

    notfakerv 发布 LFM2.5-24B-A2B-abliterated 的 GGUF 量化版本

    notfakerv 在 Hugging Face 发布 abliterated 版 LFM2.5-24B-A2B 的 GGUF 量化文件,含 Q4_K_M(14.53 GB)、Q8_0(25.49 GB)和实验性 NVFP4(14.02 GB)三种,均来自同一 BF16 编辑后 checkpoint,未做额外训练。该版本采用 AtomicChat 公开的 late-block 方向性编辑(blocks 14-39,强度 1.75),16 条拒答提示词上关键词拒答从 16 降至 1,但 IFEval 32 例中从 27 降至 25。沿用原 LFM Open License v1.0,含 1000 万美元年营收商业限制。

  2. Hugging Face · 新模型:uncensored72

    dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重版

    dealignai 团队基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone,8B/16B 激活)发布权重级 abliterated 无对齐版本 DeepSeek-V4.1-Flash-UNCENSORED-FP8,以原生 FP8 权重提供 drop-in checkpoint,无自定义 model.py、无运行时 hook、无 steering vectors。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  3. Hugging Face · 新模型:uncensored50

    xtools-at 发布 Qwen3.5-2B-MultiDistill-Megamix-6xMerge-UNCENSORED-heretic 去审查版模型

    xtools-at 基于 Qwen3.5-2B-MultiDistill-Megamix-6xMerge,用 Heretic v2.0.0.dev0 制作出去审查(decensored)版本并开源在 Hugging Face。该模型为 2B 参数的六模型线性加权合并,拒绝率从原版的 96/100 降至 1/100,KL 散度为 0.0295,支持推理、数学、编程与图文交互,并提供复现说明。

  4. Hugging Face · 新模型:uncensored56

    Qwen3.5-4B 多蒸馏合并模型发布 Heretic 去对齐版,拒绝率从 95/100 降至 3/100

    xtools-at 在 Hugging Face 发布 Qwen3.5-4B-MultiDistill-Megamix-8xMerge 的去对齐版本,使用 Heretic v2.0.0.dev0 制作并提供复现说明。该模型本身是三个 Qwen3.5-4B 检查点的线性加权合并,权重分别为 1.0、0.8、0.6,涉及推理蒸馏、Claude 衍生数据与 Heretic 变体。去对齐后拒绝率从原模型的 95/100 降至 3/100,KL 散度为 0.0883;作者未提供合并后模型的基准成绩,建议部署前与基座及三个源检查点对比评测。许可证为 Apache-2.0。

    推荐理由:原文给出 Heretic 消融参数与拒绝率前后对比,从 95/100 降到 3/100,可复现方法也写清了。

  5. Hugging Face · 新模型:uncensored32

    Qwen3.8-27B Uncensored 的 NInfer DFlash2 工件发布,单张 RTX 5090 可运行

    Hugging Face 上发布了一个 NInfer v3(.ninner)工件,将 orcarouter/Qwen3.8-27B-Uncensored-NVFP4 转换并加入 DFlash2 投机解码支持,草稿模型来自 z-lab/Qwen3.8-27B-DFlash2。该 Qwen3.8-27B 视觉语言模型可在单张 RTX 5090(32 GB)上运行,启动占用约 31.6 GB,实测约 164 tokens/s,DFlash2 草稿接受率约 26%,保留 abliterated 无审查行为,采用 Apache-2.0 许可证。

  6. Hugging Face · 新模型:abliterated46

    Qwen3.5-9B-Abliterated-V2 发布:零拒绝且保留深度推理的 abliterated 版本

    Hugging Face 上发布 Qwen3.5-9B-Abliterated-V2,提供 BF16 与 GGUF Q8_0 格式,abliterated 处理后零拒绝且保留深度推理,可在 RTX 5080(16 GB)上运行。GSM8K 对比测试显示,其与原版 Qwen3.5-9B 均达 90.0% 精度,而 Xiaomi MiMo-V2.6-Distill 以 150-400 tokens 的精简推理快 7.4 倍;原版此前失利源于输出被截断在 1,024 tokens,给予 16,384 tokens 后即全部解对。

  7. Hugging Face · 新模型:abliterated66

    Pragmatism0220 发布 Qwen3.8-Flash-Next 拒绝方向控制向量 GGUF

    Pragmatism0220 在 Hugging Face 发布单文件 GGUF 控制向量,提取 huihui-ai 对 Qwen3.8-Flash-Next 去对齐版本所移除的拒绝方向,可在基础模型任意 GGUF 量化上运行时加载并自行调节强度。该文件 483,520 B,含 47 层 F32 方向张量;实测显示 huihui 的发布只编辑 96 个写入残差流的矩阵,v2 以约 1.78 倍 v1 的强度使用同一方向,与 v2 量化权重的方向偏差 3.3×10⁻⁶ 低于测量噪声底。支持 llama.cpp 的 --control-vector 加载,-1.0 近似 v1、-1.78 近似 v2;仓库未包含拒绝率等行为评测。

    推荐理由:把 huihui-ai 去对齐版本实际改动的拒绝方向抽成独立控制向量,附权重空间实测数据,可在任意 GGUF 量化上运行时调节强度。

  8. Hugging Face · 新模型:abliterated42

    DavidAU 发布 Qwen3.8-Flash-Next-Abliterated-Uncensored-Turbo-Brilliance-50x GGUF 量化测试版

    DavidAU 的 Qwen3.8-Flash-Next-Turbo-Brilliance-50x 消融版(abliterated/uncensored)GGUF 量化正在测试,模型为 180B 参数、512 专家激活 10 的 MoE,量化升级为 GSQ-RCO。测试显示 IQ3_XXS(3.00 bpw、75.8 GB)达到 BF16 基线任务平均的 99.4%,Q2_0 仅 66.4 GB;速度测试中 46 GB 双 GPU 加内存卸载达 17 t/s,用户可申请访问并在量化发布时收到邮件通知。

  9. Hugging Face · 新模型:uncensored62

    OS-Software 发布 llm-jp-4.1-32b-a3b-thinking 的去对齐 GGUF 版本

    OS-Software 用 Heretic 消融方法的自定义 fork 制作了 llm-jp/llm-jp-4.1-32b-a3b-thinking 的去对齐版本,并以 GGUF 格式发布。在 Q4_K_M 量化权重上实测,100 个日语有害提示词的拒绝率从原版的 100/100 降到 0/100,首 token KL 散度为 0.0205;MMLU 为 68.89%(原版 69.00%),HumanEval pass@1 为 89.63%(原版 90.85%)。作者提示该模型安全对齐被大幅削弱,仅建议用于研究与实验,输出应视为不可信并自行验证。

    推荐理由:作者给出了消融参数、拒绝率从 100/100 降到 0/100 以及 MMLU 和 HumanEval 的前后对比,可据此评估去对齐的代价。

  10. Hugging Face · 新模型:abliterated62

    LFM2.5-24B-A2B 去对齐 GGUF 版发布,附拒绝率与能力实测

    alexwkleung 用 Heretic 对 LiquidAI/LFM2.5-24B-A2B 做方向性消融,改动 926 个权重张量以降低拒绝行为,并转成 GGUF 量化发布。在 44 题独立有害集上,开启思考模式下 stock 版 44/44 拒绝,去对齐版约 34 顺从、9 偏转、1 干净拒绝;GSM8K 配对测试 n=100 两者均 98/100,KL 0.169。作者还发布 5 个量化文件与自算 imatrix,并提醒 LFM Open License 对年收入超 1000 万美元实体限制商用。

    推荐理由:作者用独立 44 题有害集和 GSM8K 配对实测验证去对齐效果与推理无损,还给出拒绝率与 KL 的多档取舍点。

  11. Hugging Face · 新模型:abliterated38

    MiniCPM-V-4.7-35B-A3B-abliterated 的 EXL3 3.5bpw 量化版本发布

    Hugging Face 用户发布 openbmb/MiniCPM-V-4.7-35B-A3B abliterated 版本的 EXL3 3.5bpw 量化权重,视觉塔与 merger 保留原始 bf16。该 abliterated 版本在 100 条有害提示上拒绝率从 100/100 降至 5/100,KL 散度 0.101。vLLM nightly 0.32.0rc1 配合 DSpark 推测解码,代码约 86 tok/s、数学约 102 tok/s,无 DSpark 为 25.5 tok/s。

  12. Hugging Face · 新模型:uncensored56

    OS-Software 发布 llm-jp-4.1-32b-a3b-thinking 的 Heretic 去对齐版本,拒绝率从100/100降至0/100

    OS-Software 用 Heretic Abliteration 的自定义 fork 对 llm-jp/llm-jp-4.1-32b-a3b-thinking 做去对齐处理并放出权重。在 Q4_K_M 量化下,100条日语有害提示词的拒绝数从100/100降到0/100,首token KL散度0.0205;MMLU 68.89%(原版69.00%),HumanEval pass@1 89.63%(原版90.85%)。作者提示该模型安全对齐被大幅削弱,仅建议用于安全研究、对齐研究和红队测试等实验用途,输出应视为不可信并自行验证。

    同一新闻,精选展示《OS-Software 发布 llm-jp-4.1-32b-a3b-thinking 的去对齐 GGUF 版本》

  13. Hugging Face · 新模型:abliterated27

    TokForge 发布 Bonsai 2 27B Abliterated GGUF(PQ2_0 + MTP)

    TokForge 发布 Prism ML 三值模型 Bonsai 2 27B 的 abliterated v2 GGUF 副本,基于 Qwen3.8-27B,采用 PQ2_0 2-bit 打包(每权重 2.13 bits)并带 MTP 头,文件 7,657,489,696 字节,TokForge 未做任何修改。该版本移除了拒绝回答行为,需 TokForge 1.3.9 及以上版本和 16 GB 以上 RAM 手机运行;MTP 头仅在 CPU 路径且实测有收益时启用。

  14. Hugging Face · 新模型:abliterated64

    dealignai 发布 GLM-5.3 (753B) NVFP4 去对齐版,权重级移除拒绝行为

    dealignai 以 CRACK 方法在权重层面移除 GLM-5.3 (753B) 的拒绝行为,发布 NVFP4 量化版,主打进攻性安全场景。HarmBench 实测 high/max 推理档 156 条提示 0 拒绝,off 档拒绝率 7.3%;MMLU 84.11%,较 base 下降 1.47pp。无 SFT/DPO/LoRA,可用原版 vLLM 加载,NVFP4 在 GB10 上 KV 池达 35 GiB/rank,TP8 下实用 512K 上下文。

    同一新闻,精选展示《GLM-5.3 (753B) 权重级去审查版发布,NVFP4 量化附拒绝率与 MMLU 对比》

  15. Hugging Face · 新模型:abliterated46

    IsValorum 发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated VAL-APEX-I MiniPlus V3 GGUF 量化版

    IsValorum 发布 huihui-ai/Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 的 VAL-APEX-I MiniPlus V3 GGUF 量化版,文件 14.16 GB、whole-file BPW 4.15、含 866 个审计张量,原生 256K 上下文。该模型经 Coder390 SFT+RLOO 训练并做 abliterated 去审查,社区 NanoBench v0.4.0 评测中在 Oh My Pi (OMP 18.7)、Hermes Agent (v0.21.5)、DeepSeek Harness (0.2.0-rc.2) 三套测试上分别得分 96.7、95.4、90.4,Agentic 任务均为 100/100。

  16. Hugging Face · 新模型:abliterated40

    IsValorum 发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated VAL-APEX-I NanoPlus V3 GGUF 量化版

    IsValorum 发布 huihui-ai/Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 的 VAL-APEX-I NanoPlus V3 GGUF 量化版,文件 12.18 GB、whole-file BPW 3.57、含 866 个审计张量,原生 256K 上下文。该模型基于 Coder390 微调(多模型 SFT 加 RLOO),采用 EfficientThink 对齐,并经 Huihui-AI 在第 2 至 52 层完成 abliterated 去审查。

  17. Hugging Face · 新模型:abliterated63

    Xananthium 发布 REDCELL-26B-A4B 消融试验版 W6A8 量化权重

    Xananthium 在 Hugging Face 发布 REDCELL-26B-A4B-OSINT-Cyber-Abliterated-Pilot-W6A8-Vision,对 terrorswift 的 REDCELL(Gemma 4 26B-A4B 微调)做 abliterated 权重编辑并导出 W6A8 量化。16 条保留集拒绝标记从 16/16 降到 4/16,能力探针保持 19/20,工具调用、工具失败后改道和简单图像识别均通过;使用 Heretic 的保幅值正交消融加 rank-3 修正,编辑覆盖 30 个注意力输出投影、30 个稠密 MLP down 投影和 3,840 个专家 down 投影,路由器和视觉模块保持 BF16。

    推荐理由:作者给出了消融前后的拒绝率对照、能力探针和 KL 数值,还标注了未测项,读者可自行核对这个 W6A8 版本的实际取舍。

  18. Hugging Face · 新模型:uncensored61

    Qwen3.5-4B 蒸馏合并模型经 Heretic 去对齐后发布

    xtools-at 在 Hugging Face 发布 Qwen3.5-4B-MultiDistill-3xMerge 的去对齐版本,使用 Heretic v2.0.0.dev0 的 ARA 方法消融。实测拒绝率从原版 98/100 降至 3/100,KL 散度 0.0200,消融参数与复现步骤已在 reproduce 目录公开。该模型本身是三个推理蒸馏微调(Claude Opus 4.6 风格蒸馏、Empero Qwen3.8 教师蒸馏、DeepSeek-V4-Pro 数学 STEM 蒸馏)的线性加权合并,合并版尚无独立基准成绩。

    推荐理由:模型卡给出 ARA 消融参数与拒绝率前后对比,100 题中从 98 次拒答降到 3 次,可复现步骤也一并公开。

  19. Hugging Face · 新模型:uncensored72

    dealignai 发布 DeepSeek-V4.1-Flash 去对齐 FP8 版本并附完整评测数据

    dealignai 团队发布 DeepSeek-V4.1-Flash 的 abliterated 无对齐版本(基于 deepseek-ai/DeepSeek-V4.1-Flash,552B 底座、原生 FP8、1M token 上下文),以权重级手术式修改移除拒绝回路,无需自定义 model.py 或运行时钩子,可像 base 模型直接加载。HarmBench-320 上 CRACK 版在 effort=off 和 max 下均 100% 应答、零 HARD_REF/SOFT_RED/HEDGE,而 base 在 effort=max 反而更易拒绝(仅 1.56% 应答);MMLU-14k 整体下降 4.22pp(86.96%→82.74%),剔除伦理类后仅 -1.1pp。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  20. Hugging Face · 新模型:uncensored40

    Gemma-4-E4B-Uncensored-HauhauCS-Aggressive 上架 Hugging Face

    HauhauCS 基于 google/gemma-4-e4b-it 发布的 Aggressive 版去审查模型已在 Hugging Face 提供 GGUF 下载,测试中 0/465 次拒绝。模型为 4B 参数、42 层、131K 上下文、原生多模态(文本、图像、视频、音频),全部量化使用 imatrix 生成;K_P 量化比基础量化文件大 5-15%,质量提升约 1-2 个量化级别,兼容 llama.cpp、LM Studio 等 GGUF 运行时,视觉/音频需搭配 mmproj 文件。

  21. Hugging Face · 新模型:abliterated52

    MiniCPM-V 4.7 1B 发布 Heretic 去对齐 GGUF 量化版

    maternion 在 Hugging Face 发布基于 openbmb/MiniCPM-V-4.7-1B 的去对齐 GGUF 量化版,用 heretic 的方向消融流程从权重中移除拒绝方向。404 次试验后拒绝率为 21/100,KL 散度 0.0122,作者称数值上接近基座模型、保留推理、工具调用与视觉能力。提供 Q4_K_M 到 F16 共 4 档量化(641 MB 至 1.9 GB)及视觉投影 mmproj-F16.gguf,可在 llama.cpp、Ollama、LM Studio 等 GGUF 兼容运行时运行,Ollama 注册表同步发布。

    推荐理由:原文给出了拒绝率 21/100 和 KL 散度 0.0122 的实测数据,可据此判断该去对齐版本的去拒答程度与能力保留情况。

  22. Hugging Face · 新模型:uncensored61

    Qwen3.5-2B 无对齐版发布,用 Abliterix SOM 方法将拒绝率从 394/408 降到 0/408

    AkaumiKaede 发布基于 Qwen/Qwen3.5-2B 的去对齐版本 Qwen3.5-2B-Uncensored-Abliterix-SOM,使用 Abliterix v1.12.2 的 SOM 方法制作。实测 408 条提示词拒绝数为 0/408,原模型为 394/408,KL 散度 0.2096。作者称未用公开提示词集,而是自建覆盖 R18、反人类、真实犯罪等领域的原创提示词集,并分享方法:先跑 120 批完整试验,选出 3 个最优方案作为 TOML 预注入消融参数,让 TPE 优化器在前 3 轮按设定参数消融后再寻找更优参数,多轮重复得到最佳去对齐效果。

    推荐理由:作者给出 SOM 方法的消融参数、0/408 拒绝率与 KL 散度对照数据,并公开 TOML 配置和提示词集供复现。

  23. Hugging Face · 新模型:uncensored66

    AtomicChat 发布 Ling 3.1 flash 无拒绝 GGUF 版本

    AtomicChat 将 inclusionAI 的 Ling 3.1 flash 中的拒绝行为从权重中投影移除,烘焙成 GGUF 版本发布在 Hugging Face。验证集上英文拒绝率从 98.1% 降到 2.9%,俄语从 68% 降到 0%,无害提示几乎不受影响;方法是对写入残差流的全部 213 个矩阵施加 W' = W - 1.25·r·rᵀW 的方向编辑,遵循 Arditi et al. 2024 的单方向拒绝机制研究,采用 MIT 许可。

    推荐理由:原文给出了拒绝方向消融的具体方法和英俄语拒绝率前后对比,并附随机方向对照,可自行判断改动效果。

  24. Hugging Face · 新模型:abliterated41

    Huihui-Qwen3.8-27B-abliterated-GGUF:Qwen3.8-27B 去审查版本发布

    huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝回复,发布 Huihui-Qwen3.8-27B-abliterated-GGUF 无审查版本,仅消融部分层(如第 22 至 52 层,0 起始索引),其余层保持原样。提供 Q2_K_L 至 Q8_0_L 等多种量化格式,其中低精度版本将 token_embd、output、ffn_down 等需消融权重转回 Q8_0 或 BF16 以提升回复质量;MTP 与视觉部分未改动。可通过 ollama(huihui_ai/Qwen3.8-abliterated)或最新 llama.cpp 运行,支持 -c 262144,模型安全过滤大幅降低,建议仅用于研究测试环境。

10月14日周三
  1. Hugging Face · 新模型:uncensored52

    Qwen3.5-4B 三路合并模型发布 Heretic 去对齐版

    xtools-at 发布 Qwen3.5-4B-Claude-3xMerge-Jackrong 的去对齐版本,使用 Heretic v2.0.0.dev0 消融并公开复现步骤。拒绝率从原版的 98/100 降至 4/100,KL 散度 0.0776,消融作用于第 13 至 21 层。原合并模型以线性加权平均融合 Jackrong 的三个 Qwen3.5-4B 微调,权重分别为 1.0、0.8 和 0.6,侧重推理、编程与 Agent 工作流,Apache-2.0 许可。

    推荐理由:模型卡给出了 Heretic 消融参数和去对齐前后的拒绝率对比,拒绝数从 98/100 降到 4/100,结果可复现。

  2. Hugging Face · 新模型:abliterated35

    Qwen3.8-27B-abliterated EXL3 2.55 bpw 量化版(SC-SH)发布

    Huihui-Qwen3.8-27B-abliterated 的 EXL3 2.55 bpw 量化(SC-SH)上线,平均码率 2.5494 bpw,磁盘占用约 11.81 GB,较 BF16 参考困惑度 1.3418 增加 5.1%。噪声归因与校准均在 abliterated 权重上重新测量,head/MTP 为 4.0 bpw、vision 为 6.0 bpw。需 ExLlamaV3,可用 tabbyAPI 运行;原模型为 27B 视觉语言模型,原生 262K 上下文可扩展至 1M。

  3. Hugging Face · 新模型:abliterated67

    Qwen3.8-27B RVN 去对齐 GGUF 发布,拒绝率降至 0-1/100

    Muyuxiao 在 trohrbaugh/Qwen3.8-27B-heretic-ara 基础上追加两次全权重 ARA 消融,发布 RVN 版 Qwen3.8-27B 的 GGUF 权重。有害提示拒绝率从 3/100 降到 0-1/100,KL 损伤从 0.0535 降到 0.0085,全部 53 个 RVN 文件内嵌官方 Qwen3.8 chat 模板;模型保留 262K 上下文与 Apache-2.0 许可,面向 18+ 研究、创作与角色扮演用途,并给出从 8 GB 到 64 GB 显存的量化选型建议。

    同一新闻,精选展示《Qwen3.8-27B RVN 消融版 GGUF 发布,拒绝率降至 0-1/100》

  4. Hugging Face · 新模型:abliterated35

    Jakevin 发布 LFM2.5-24B-A2B-abliterated-mixed-GGUF:去除拒绝行为的混合精度量化版本

    Jakevin 在 Hugging Face 发布 abliterated 版 LiquidAI/LFM2.5-24B-A2B 的混合精度 GGUF,移除了大部分拒绝行为。模型按 IQ3_M/Q4_K/Q8_0 混合量化,对第 14–39 层的 out_proj 和专家 w2 权重应用双向投影拒绝方向。需 llama.cpp b9810+ 的 lfm2moe 支持,8k 上下文下生成约 83 tok/s、峰值内存约 10.9 GB,采用 LFM Open License v1.0。

  5. Hugging Face · 新模型:abliterated31

    Jakevin 发布 LFM2.5-24B-A2B-abliterated-ternary-mlx:实验性三值量化去审查模型

    Jakevin 基于 LiquidAI/LFM2.5-24B-A2B 发布去审查的 MLX 三值量化模型,用逐层双投影方向移除拒绝行为,体积约 10.3 GB,评估时峰值内存约 13.6 GB。实验显示质量下降明显:10 个有害提示全部拒绝行为被移除(0/10 拒绝),但多数一般问题在 8K token 内无法完成且出现事实幻觉,不建议一般用途使用。模型遵循 LFM Open License v1.0,标准 mlx-lm(0.32.0 测试)可直接加载。

  6. Hugging Face · 新模型:abliterated47

    Jakevin 发布 LFM2.5-24B-A2B-abliterated-4bit-mlx:去除拒绝行为的 MLX 4-bit 量化模型

    Jakevin 在 Hugging Face 发布基于 LiquidAI/LFM2.5-24B-A2B 的 abliterated 去审查模型,对第 14–39 层移除拒绝方向,并做 MLX 4-bit 仿射量化,磁盘占用约 13 GB,Apple Silicon 本地加载峰值内存约 13.6 GB,采用 LFM Open License v1.0。10 条有害提示配对测试中,官方 LiquidAI MLX 4-bit 版 10/10 拒答,该模型 0/10 拒答、7/10 服从。仓库还提供同一去审查权重的 ternary 量化版本,但存在质量下降,一般使用建议选此 4-bit 版。

  7. Hugging Face · 新模型:uncensored68

    candor-lab 发布 Llama 3.2 3B Instruct 去对齐 GGUF 版

    candor-lab 在 Hugging Face 发布 Llama 3.2 3B Instruct 的去对齐版本,通过 Candor 权重编辑工具对注意力和 MLP 输出矩阵做 rank-1 修改,移除模型拒绝指令的方向。实测显示该文件对 288 个有害提示词只拒绝 6 个,而普通 Q4_K_M 量化版拒绝 161 个;团队指出该权重此前经过 4-bit 量化,再次量化会损失 30-45% 的编辑效果,因此将 49 个被编辑矩阵保留在 Q8_0。测量基于 StrongREJECT、Alpaca 提示词与 GSM8K,在 llama.cpp llama-server 中以实际发布文件进行,结果与 heretic 的最佳试验无统计显著差异。

    推荐理由:发布方实测了量化后文件的拒绝率与 KL 散度,指出先量化后去对齐会让编辑效果损失三到四成。

  8. Hugging Face · 新模型:abliterated56

    swdq 发布 MiniCPM-V-4.7-35B-A3B 的 abliterated 去对齐版本

    swdq 在 Hugging Face 发布 openbmb/MiniCPM-V-4.7-35B-A3B 的 abliterated 去对齐版本,用 abliterix(含 MoE expert down_proj 的 LoRA steering)合并为 bf16 权重,未量化。在 100 条有害评测提示上拒绝率从基座的 100/100 降到 5/100,无害提示 KL 散度为 0.101;仅改动语言模型,视觉塔未动且未测试图像输入,拒绝计数基于关键词检测而非 LLM 评审。

    推荐理由:作者给出了基于关键词检测的拒绝率前后对比和 KL 散度数据,可据此判断这个去对齐版本实际削弱了多少安全对齐。