跳到正文
10月16日周五
  1. Hugging Face · 新模型:uncensored78

    AtomicChat 发布 NVIDIA Nemotron 3.5 Bolt 74B-A9B 无拒绝 GGUF 版

    AtomicChat 将 NVIDIA Nemotron 3.5 Bolt 74B-A9B 的拒绝行为从权重中投影移除,发布 Atomic Dynamic GGUF 量化版本。在留出的 JailbreakBench 提示上拒绝率从 97.5% 降到 0%,俄语红队提示从 70% 降到 0%,开启思考时 30 条全部不再拒绝;MMLU 从 81.35% 到 81.75%(McNemar p=0.29),工具调用和 30k 长上下文检索不受影响。

    推荐理由:原文给出拒绝率前后对比、MMLU 差异和 KLD 数据,读者可据此判断这次去拒绝编辑的代价与效果。

  2. Hugging Face · 新模型:uncensored18

    bappi/gemma-4-E2B-uncensored-coder-fable5-composer2.5 模型上线 Hugging Face

    多模态模型 bappi/gemma-4-E2B-uncensored-coder-fable5-composer2.5 在 Hugging Face 发布,支持 image-text-to-text 任务,可通过 Transformers 的 pipeline 或 AutoModelForMultimodalLM 加载。模型同时提供 vLLM、SGLang 部署方式及 OpenAI 兼容 API,并可用 Docker Model Runner 运行。

  3. Hugging Face · 新模型:abliterated25

    Hugging Face 上架 huihui-ai/Huihui-MiniCPM5-1B-abliterated:MiniCPM5-1B 去审查版本

    huihui-ai 发布 openbmb/MiniCPM5-1B 的 abliterated 去审查版本 Huihui-MiniCPM5-1B-abliterated,通过 abliteration 技术移除模型拒绝回答行为,无需 TransformerLens。模型安全过滤大幅降低,可能生成敏感或不当内容,官方建议仅用于研究、测试或受控环境,避免直接用于生产或面向公众的商业应用。

  4. Hugging Face · 新模型:abliterated42

    Huihui-Qwen3.8-27B-abliterated GGUF 发布:Qwen3.8-27B 去审查版本

    huihui-ai 发布 Qwen/Qwen3.8-27B 的 abliterated 去审查版本,通过 abliteration 技术移除模型拒绝回答的行为,仅消融部分层(如 22 至 52 层),MTP 与视觉部分未改动。提供 Q2_K_L 至 Q8_0_L 等多种量化格式,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行,支持 -c 262144 上下文。模型安全过滤大幅降低,建议用于研究测试而非生产环境。

  5. Hugging Face · 新模型:uncensored66

    OS-Software 发布 LFM2.5-24B-A2B-Uncensored-Heretic 去对齐版本

    OS-Software 基于 LiquidAI/LFM2.5-24B-A2B 发布去对齐版本,用自研 Heretic fork 只改动 layers 18、22、26 的 self_attn.out_proj 权重并烘焙进 BF16。实测 100 条日语有害提示词的拒绝率从原版 94-99/100 降到 0-1/100,QAD Q4_0 的 MMLU 为 55.35%(较原版 -0.62),并提供 Q4_0 到 Q8_0 多档 GGUF;模型仍会先思考再回答,输出偏长,建议 8k 以上输出预算,仅供研究实验用途。

    推荐理由:作者给出了各量化档位的拒绝率前后对比和 KL 散度、MMLU 数据,可以据此评估这个去对齐版本改动幅度与能力损失。

  6. Hugging Face · 新模型:uncensored64

    OS-Software 发布 LFM2.5-24B-A2B 去对齐 GGUF 版,拒绝率从 99/100 降至 0/100

    OS-Software 在 Hugging Face 发布 LiquidAI/LFM2.5-24B-A2B 的去对齐 GGUF 版本,使用 Heretic 的自定义 fork,仅改动第 18、22、26 层的 attention output projections。实测 100 条日语有害提示词的拒绝率从原版 94-99/100 降至 0-1/100,QAD Q4_0 的 MMLU 为 55.35%(原版 55.97%)。提供 Q4_0 到 Q8_0 多个量化档位,模型仍会先思考再回答,作者建议输出预算设 8k token 以上,仅供研究实验使用。

    同一新闻,精选展示《OS-Software 发布 LFM2.5-24B-A2B-Uncensored-Heretic 去对齐版本》

  7. Hugging Face · 新模型:abliterated22

    Huihui-Qwen3.8-Flash-Next-abliterated-GGUF 发布:Qwen3.8-Flash-Next 去审查版本

    huihui-ai 基于 abliteration 技术发布 Qwen/Qwen3.8-Flash-Next 的去审查 GGUF 版本,移除模型拒绝回答行为,无需 TransformerLens。新增 Unsloth 系列与 Swift 系列 GGUF,均支持最新版 Strata 和 llama.cpp,可用 llama-cli 加载 UD-Q4_K_XL 量化文件并将上下文设为 262144。该模型安全过滤大幅降低,可能生成敏感或不当内容,建议仅用于研究、测试或受控环境。

  8. Hugging Face · 新模型:uncensored76

    candor-lab 发布 Qwen3.5-9B 去对齐版 GGUF 权重

    candor-lab 用自研权重编辑工具 Candor 移除 Qwen3.5-9B 的拒绝行为,以 rank-1 编辑每层 attention 与 MLP 输出矩阵,发布单个 Q4_K_M GGUF 文件(5.78 GB)。实测 288 条 StrongREJECT 有害提示拒绝数从 279 降到 0,无害提示拒绝 5 降到 2,GSM8K 正确数与原模型差异在噪声内;与 heretic 最佳试验相比,有害提示中位思考 token 为 996 对 1648,数学超预算次数也更少。基于 Qwen/Qwen3.5-9B 原始 16 位权重,不含视觉编码器,Apache 2.0 协议,仅用 llama.cpp b11524 在思考开启下实测,LM Studio 和 Ollama 等未验证。

    推荐理由:原文给出与原模型和 heretic 对照的拒绝率、KL 散度和 GSM8K 数据,可据此判断这次权重编辑的代价与效果。

  9. Hugging Face · 新模型:uncensored74

    LFM2.5-24B-A2B 去对齐版发布,英文拒绝率从 96.3% 降到 1.2%

    AtomicChat 发布 Liquid LFM2.5-24B-A2B 的去对齐版本,仅编辑 blocks 14-39 的 52 个矩阵,英文拒绝率从 96.3% 降至 1.2%,俄语从 62% 降至 0%,思考模式下从 30/30 降至 0。MMLU 从 64.40% 到 65.55% 基本不变,提供 6 个 GGUF 量化版本和一个 24 MB LoRA 适配器(可用 --lora-scaled 加载,推荐 scale 1.75),方法基于 Arditi et al. 2024 的单方向拒绝机制研究。

    同一新闻,精选展示《LFM2.5-24B-A2B 去对齐版发布:英文拒绝率从 96.3% 降到 1.2%》

  10. Hugging Face · 新模型:abliterated38

    glivorem 发布 Qwen3-4B-Instruct-2507-abliterated 去拒绝版本

    glivorem 用 Heretic 工具对 Qwen3-4B-Instruct-2507 做 abliteration 处理,通过方向消融直接编辑权重移除模型的拒绝行为,未做新数据微调,知识与通用能力接近原版。模型为 4B 参数非思考 instruct 模型,262k 原生上下文,BF16 safetensors 格式,Apache 2.0 许可,可在 vLLM 和 Transformers 中使用,无内置安全护栏。

  11. Hugging Face · 新模型:abliterated40

    Huihui-Qwen3.8-27B-abliterated GGUF 发布:Qwen3.8-27B 去审查版本

    huihui-ai 发布 Qwen/Qwen3.8-27B 的 abliterated 去审查 GGUF 版本,通过 abliteration 技术移除模型拒答行为,仅对部分层(如 22 至 52 层)做消融,MTP 与视觉部分未改动。提供 Q2_K_L 至 Q8_0_L 等多种量化格式,支持最新版 ollama(huihui_ai/Qwen3.8-abliterated)和 llama.cpp(-c 262144),适合研究测试用途。

  12. Hugging Face · 新模型:uncensored56

    HauhauCS 发布 Qwen3.8-27B 无对齐 Aggressive GGUF 量化版,附 FastMTP 加速

    HauhauCS 在 Hugging Face 发布 Qwen3.8-27B 的无对齐 Aggressive 变体 GGUF 量化,实测 0/465 次拒绝,直接作答且几乎无前导语。全系列保留原生 NextN 头并附带 FastMTP 32K 加速 sidecar,在 Q8_K_P 上文档 TG 最高达非 MTP 的 3.02x、推理 TG 1.93x,比标准内嵌 MTP 再快 35.2%/21.1%;提供 Q8_K_P 到 IQ2_M 多档量化与 BF16 视觉 projector,基于 Apache 2.0 许可,需 llama.cpp 补丁启用 FastMTP。

    同一新闻,精选展示《HauhauCS 发布 Qwen3.8-27B 无对齐 Aggressive GGUF 量化版》

  13. Hugging Face · 新模型:abliterated22

    eccentricorbit 发布 Qwen3-4B-Instruct-2507-abliterated 去审查模型

    eccentricorbit 基于 Qwen/Qwen3-4B-Instruct-2507 用 Heretic 制作了 abliterated 版本,通过 directional ablation 直接修改权重移除模型的拒绝行为,未做新数据微调,知识与通用能力接近原版。模型为 4B 参数、262k 原生上下文的非思考 instruct 模型,BF16 safetensors 格式,Apache 2.0 许可,可在 vLLM 和 Transformers 中使用,无内置安全护栏。

  14. Hugging Face · 新模型:abliterated78

    BoldingBuilds 发布 NVIDIA Nemotron-3.5-Bolt-74B-A9B 无对齐 24GB GGUF 版本

    BoldingBuilds 在 Hugging Face 发布 NVIDIA Nemotron-3.5-Bolt-74B-A9B 的无对齐版本,直接在 24GB 2-bit GGUF 上做权重空间消融,未经过 BF16 重量化,保留了 NVIDIA 量化感知蒸馏产出的约 17GB IQ2_XXS 专家权重。编辑共改动 100 个张量,采用 Arditi et al. 2024 的均值差方向法,λ=0 时输出与原文件逐字节一致作为自检门槛。

    推荐理由:原文给出完整的消融方法、拒绝率与能力对照数据,读者可以据此评估这个去对齐版本的实际效果与局限。

  15. Hugging Face · 新模型:uncensored40

    Qwen3.5-2B-Uncensored-HauhauCS-Aggressive 发布:无审查版 Qwen3.5-2B

    HauhauCS 基于 Qwen3.5-2B 发布无审查变体 Aggressive 版,约 0/465 次拒绝,号称零能力损失且不改动数据集。模型为 2B dense 参数、24 层混合架构(Gated DeltaNet 线性注意力 + 全 softmax 注意力 3:1),原生多模态,262K 上下文(YaRN 可扩展至 1M),提供 BF16 至 Q4_K_M 共 4 种 GGUF 量化,支持 llama.cpp、LM Studio 等运行时。

  16. Hugging Face · 新模型:uncensored72

    AtomicChat 发布 NVIDIA Nemotron 3.5 Super VL 120B-A12B 无拒绝 GGUF 版

    AtomicChat 将 NVIDIA Nemotron 3.5 Super VL 120B-A12B 的拒绝行为从权重中移除,发布 Atomic Dynamic GGUF 量化版本。JailbreakBench 拒绝率从 95.1% 降到 0%,俄语红队提示从 76% 降到 2%,MMLU 保持 85.05% 到 85.10% 基本不变;方法基于 Arditi et al. 2024 的单一方向拒绝机制,对写入残差流的 128 个矩阵做投影编辑,提供 AD-Q4_K_S、AD-IQ3_XXS、AD-Q2_0_L 三档量化,上游 llama.cpp 可直接运行。

    推荐理由:原文给出拒绝率前后对比、MMLU 对照和量化误差数据,读者可以据此判断这次去对齐编辑的代价到底有多大。

  17. Hugging Face · 新模型:uncensored40

    Qwen-Image-2.1 Uncensored 量化版发布,提供 GGUF/Safetensors/MLX 多格式本地图像生成

    DollasAndSpence 发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式,支持 ComfyUI 本地图像生成。该版本无内置安全检查器,可直接生成成人及 NSFW 内容;推荐 GGUF 使用 Q4_K_M(4.60 GB),MLX 格式针对 Apple Silicon 优化,文本编码器可卸载至系统内存以节省 9–17 GB VRAM。

  18. Hugging Face · 新模型:uncensored62

    AtomicChat 发布 Ternary-Bonsai-2-2B 去对齐 LoRA 适配器(GGUF)

    AtomicChat 发布 Ternary-Bonsai-2-2B-gguf 的 rank-1 投影 LoRA,通过移除 attn_output、ssm_out、ffn_down 中的拒绝方向实现去对齐,基础权重不变,以适配器形式发布。拒绝率从 87.5% 降到 0.0%,无害提示误拒为 0.0%,MMLU(n=300)从 31.7 变为 34.3;推荐 scale 1.0(1.5 开始退化),残差泄漏约 1e-4,作者标注为研究级产物,完整逐条日志在 -metrics 仓库。

    推荐理由:原文给出拒绝率与 MMLU 前后对比数据,并说明残差泄漏等局限,读者可据此判断该去对齐适配器的实际代价。

  19. Hugging Face · 新模型:uncensored62

    AtomicChat 发布 Ternary-Bonsai-2-4B 去对齐 LoRA 适配器(GGUF)

    AtomicChat 发布 rank-1 投影 LoRA,通过移除 Ternary-Bonsai-2-4B-gguf 残留写入路径(attn_output、ssm_out、ffn_down)中的拒绝方向实现去对齐,基础权重不变,以适配器形式发布。实测显示有害拒绝率从 99.0% 降到 0.0%,无害提示误拒率从 1.0% 降到 0.0%,MMLU(n=300)从 68.7 到 69.0;推荐 scale 1.0(1.5 开始退化),残留泄漏约 1e-4,作者标注为研究级产物,完整逐条日志在 -metrics 仓库。

    同一新闻,精选展示《AtomicChat 发布 Ternary-Bonsai-2-9B 去对齐 LoRA(GGUF)》

  20. Hugging Face · 新模型:uncensored62

    AtomicChat 发布 Ternary-Bonsai-2-9B 去对齐 LoRA(GGUF)

    AtomicChat 在 Hugging Face 发布 rank-1 投影 LoRA,通过移除 Ternary-Bonsai-2-9B-gguf 残差写入路径(attn_output、ssm_out、ffn_down)的拒绝方向实现去对齐,基础权重不变,以适配器形式发布。拒绝率从 100.0% 降至 0.0%,无害提示误拒从 1.9% 降至 0.0%,MMLU(n=300)从 76.0 降至 71.7;推荐 scale 1.0(1.5 开始退化),残差泄漏约 1e-4,作者标注为研究级产物,许可证继承基座模型。

    推荐理由:原文给出拒绝率与 MMLU 的前后对照数据,读者可据此权衡这个去对齐 LoRA 的收益与能力损失。

  21. Hugging Face · 新模型:uncensored24

    shimbaaa 发布 Supra2-100M-Uncensored-Instruct:基于 Supra2-100M-Base 的 100M 无审查指令模型

    shimbaaa 在 Hugging Face 上发布 Supra2-100M-Uncensored-Instruct,一个 100M 参数的指令模型,基于 SupraLabs/Supra2-100M-Base 经两阶段 LoRA 训练,训练上下文长度 512,采用 Apache-2.0 许可。模型被训练为以 Yes-Man 风格顺从用户提示,未做安全对齐,会认同错误前提;两阶段均混入 Dolly-15k 回放数据以减少灾难性遗忘。

  22. Hugging Face · 新模型:uncensored28

    Qwen3.8-Flash-Next 无审查版 Q4_K_M .basalt 包发布(Hugging Face)

    Hugging Face 上发布了一个可直接运行的 .basalt 格式包,为无审查版 Qwen3.8-Flash-Next 的 Q4_K_M 量化构建,基于 125B 级 MoE 模型(qwen4exp 架构),文件大小 114.06 GiB,内置 Qwen tokenizer 与聊天模板,支持 --vision 图像输入。运行需 NVIDIA Blackwell GPU(compute capability 12.0)与 CUDA 13;在单张 RTX 5090 上 512k 上下文解码约 220 tok/s、prefill 约 5,900 tok/s。该仓库目前为私有测试状态,采用 Qwen Community License 1.0。

10月15日周四
  1. Hugging Face · 新模型:abliterated42

    notfakerv 发布 LFM2.5-24B-A2B-abliterated 的 GGUF 量化版本

    notfakerv 在 Hugging Face 发布 abliterated 版 LFM2.5-24B-A2B 的 GGUF 量化文件,含 Q4_K_M(14.53 GB)、Q8_0(25.49 GB)和实验性 NVFP4(14.02 GB)三种,均来自同一 BF16 编辑后 checkpoint,未做额外训练。该版本采用 AtomicChat 公开的 late-block 方向性编辑(blocks 14-39,强度 1.75),16 条拒答提示词上关键词拒答从 16 降至 1,但 IFEval 32 例中从 27 降至 25。沿用原 LFM Open License v1.0,含 1000 万美元年营收商业限制。

  2. Hugging Face · 新模型:uncensored72

    dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重版

    dealignai 团队基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone,8B/16B 激活)发布权重级 abliterated 无对齐版本 DeepSeek-V4.1-Flash-UNCENSORED-FP8,以原生 FP8 权重提供 drop-in checkpoint,无自定义 model.py、无运行时 hook、无 steering vectors。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  3. Hugging Face · 新模型:uncensored50

    xtools-at 发布 Qwen3.5-2B-MultiDistill-Megamix-6xMerge-UNCENSORED-heretic 去审查版模型

    xtools-at 基于 Qwen3.5-2B-MultiDistill-Megamix-6xMerge,用 Heretic v2.0.0.dev0 制作出去审查(decensored)版本并开源在 Hugging Face。该模型为 2B 参数的六模型线性加权合并,拒绝率从原版的 96/100 降至 1/100,KL 散度为 0.0295,支持推理、数学、编程与图文交互,并提供复现说明。

  4. Hugging Face · 新模型:uncensored56

    Qwen3.5-4B 多蒸馏合并模型发布 Heretic 去对齐版,拒绝率从 95/100 降至 3/100

    xtools-at 在 Hugging Face 发布 Qwen3.5-4B-MultiDistill-Megamix-8xMerge 的去对齐版本,使用 Heretic v2.0.0.dev0 制作并提供复现说明。该模型本身是三个 Qwen3.5-4B 检查点的线性加权合并,权重分别为 1.0、0.8、0.6,涉及推理蒸馏、Claude 衍生数据与 Heretic 变体。去对齐后拒绝率从原模型的 95/100 降至 3/100,KL 散度为 0.0883;作者未提供合并后模型的基准成绩,建议部署前与基座及三个源检查点对比评测。许可证为 Apache-2.0。

    推荐理由:原文给出 Heretic 消融参数与拒绝率前后对比,从 95/100 降到 3/100,可复现方法也写清了。

  5. Hugging Face · 新模型:uncensored32

    Qwen3.8-27B Uncensored 的 NInfer DFlash2 工件发布,单张 RTX 5090 可运行

    Hugging Face 上发布了一个 NInfer v3(.ninner)工件,将 orcarouter/Qwen3.8-27B-Uncensored-NVFP4 转换并加入 DFlash2 投机解码支持,草稿模型来自 z-lab/Qwen3.8-27B-DFlash2。该 Qwen3.8-27B 视觉语言模型可在单张 RTX 5090(32 GB)上运行,启动占用约 31.6 GB,实测约 164 tokens/s,DFlash2 草稿接受率约 26%,保留 abliterated 无审查行为,采用 Apache-2.0 许可证。

  6. Hugging Face · 新模型:abliterated46

    Qwen3.5-9B-Abliterated-V2 发布:零拒绝且保留深度推理的 abliterated 版本

    Hugging Face 上发布 Qwen3.5-9B-Abliterated-V2,提供 BF16 与 GGUF Q8_0 格式,abliterated 处理后零拒绝且保留深度推理,可在 RTX 5080(16 GB)上运行。GSM8K 对比测试显示,其与原版 Qwen3.5-9B 均达 90.0% 精度,而 Xiaomi MiMo-V2.6-Distill 以 150-400 tokens 的精简推理快 7.4 倍;原版此前失利源于输出被截断在 1,024 tokens,给予 16,384 tokens 后即全部解对。

  7. Hugging Face · 新模型:abliterated40

    Qwen3.5-9B-Abliterated-V2-GGUF 量化版发布,附 Xiaomi MiMo 效率对比评测

    HALO117MC 发布 Qwen3.5-9B-Abliterated-V2 的 Q8_0 与 BF16 GGUF 官方量化版,面向消费级 GPU 本地推理,支持 Ollama v0.40.4 与 llama.cpp v0.6.0。在 RTX 5080 Laptop GPU 上测试,原版与 Abliterated V2 的 GSM8K 精度均为 90%(9/10),后者平均每任务耗时 58.62 秒;Xiaomi MiMo-V2.6-Distill 同样 90% 精度但平均仅 7.46 秒,速度快 7.4 倍,源于其思维链更精简。

  8. Hugging Face · 新模型:uncensored30

    Haiseni 发布 UncensoredLM-DeepSeek-R1-Distill-Qwen-14B 实验预览版

    Haiseni 在 Hugging Face 上推出 UncensoredLM-DeepSeek-R1-Distill-Qwen-14B 实验预览版,这是一款带推理能力的去审查模型,基于 DeepSeek-R1-Distill-Qwen-14B。模型采用固定的提示词模板(含 instruction、input、output 字段),作者称拒绝对齐边界清晰,并征集用户反馈以持续改进。

  9. Hugging Face · 新模型:uncensored22

    mradermacher 发布 Qwen3.5-4B-MultiDistill-3xMerge-UNCENSORED-heretic 的 GGUF 静态量化版本

    mradermacher 在 Hugging Face 发布 Qwen3.5-4B-MultiDistill-3xMerge-UNCENSORED-heretic 的 GGUF 静态量化版本,提供从 Q2_K(2.0GB)到 f16(8.5GB)的多档量化文件,其中 Q4_K_S/Q4_K_M 标注为快速推荐档,Q8_0 为最佳质量档,并附带 mmproj 多模态补充文件。weighted/imatrix 量化暂未提供,用户可通过 Community Discussion 提出请求。

  10. Hugging Face · 新模型:abliterated66

    Pragmatism0220 发布 Qwen3.8-Flash-Next 拒绝方向控制向量 GGUF

    Pragmatism0220 在 Hugging Face 发布单文件 GGUF 控制向量,提取 huihui-ai 对 Qwen3.8-Flash-Next 去对齐版本所移除的拒绝方向,可在基础模型任意 GGUF 量化上运行时加载并自行调节强度。该文件 483,520 B,含 47 层 F32 方向张量;实测显示 huihui 的发布只编辑 96 个写入残差流的矩阵,v2 以约 1.78 倍 v1 的强度使用同一方向,与 v2 量化权重的方向偏差 3.3×10⁻⁶ 低于测量噪声底。支持 llama.cpp 的 --control-vector 加载,-1.0 近似 v1、-1.78 近似 v2;仓库未包含拒绝率等行为评测。

    推荐理由:把 huihui-ai 去对齐版本实际改动的拒绝方向抽成独立控制向量,附权重空间实测数据,可在任意 GGUF 量化上运行时调节强度。

  11. Hugging Face · 新模型:abliterated42

    DavidAU 发布 Qwen3.8-Flash-Next-Abliterated-Uncensored-Turbo-Brilliance-50x GGUF 量化测试版

    DavidAU 的 Qwen3.8-Flash-Next-Turbo-Brilliance-50x 消融版(abliterated/uncensored)GGUF 量化正在测试,模型为 180B 参数、512 专家激活 10 的 MoE,量化升级为 GSQ-RCO。测试显示 IQ3_XXS(3.00 bpw、75.8 GB)达到 BF16 基线任务平均的 99.4%,Q2_0 仅 66.4 GB;速度测试中 46 GB 双 GPU 加内存卸载达 17 t/s,用户可申请访问并在量化发布时收到邮件通知。

  12. Hugging Face · 新模型:uncensored62

    OS-Software 发布 llm-jp-4.1-32b-a3b-thinking 的去对齐 GGUF 版本

    OS-Software 用 Heretic 消融方法的自定义 fork 制作了 llm-jp/llm-jp-4.1-32b-a3b-thinking 的去对齐版本,并以 GGUF 格式发布。在 Q4_K_M 量化权重上实测,100 个日语有害提示词的拒绝率从原版的 100/100 降到 0/100,首 token KL 散度为 0.0205;MMLU 为 68.89%(原版 69.00%),HumanEval pass@1 为 89.63%(原版 90.85%)。作者提示该模型安全对齐被大幅削弱,仅建议用于研究与实验,输出应视为不可信并自行验证。

    推荐理由:作者给出了消融参数、拒绝率从 100/100 降到 0/100 以及 MMLU 和 HumanEval 的前后对比,可据此评估去对齐的代价。

  13. Hugging Face · 新模型:abliterated62

    LFM2.5-24B-A2B 去对齐 GGUF 版发布,附拒绝率与能力实测

    alexwkleung 用 Heretic 对 LiquidAI/LFM2.5-24B-A2B 做方向性消融,改动 926 个权重张量以降低拒绝行为,并转成 GGUF 量化发布。在 44 题独立有害集上,开启思考模式下 stock 版 44/44 拒绝,去对齐版约 34 顺从、9 偏转、1 干净拒绝;GSM8K 配对测试 n=100 两者均 98/100,KL 0.169。作者还发布 5 个量化文件与自算 imatrix,并提醒 LFM Open License 对年收入超 1000 万美元实体限制商用。

    推荐理由:作者用独立 44 题有害集和 GSM8K 配对实测验证去对齐效果与推理无损,还给出拒绝率与 KL 的多档取舍点。