跳到正文
10月23日周五
  1. Hugging Face · 新模型:abliterated25

    Sage-A1.5 Heretic Abliterated 的 EXL3 4.0bpw 量化版本发布

    Hugging Face 上发布 Sage-A1.5 Heretic Abliterated 的 EXL3 4.0bpw 量化版本,由 exllamav3 1.6.4 的 convert.py 生成,decoder 约 4.05 bpw、lm_head 6 bit、MTP 4 bpw,视觉塔保持 bf16 未量化。目录约 19GB 含三个 safetensors shard,MTP 权重与预处理器配置从父模型 InternScience/Sage-A1.5 补齐,需 exllamav3 1.6.4 加载,可用 -mode qwen35 并开启 MTP draft。

  2. Hugging Face · 新模型:abliterated57

    distributedcognition 发布 DeepSeek-V4.1-Flash-1017 abliterated 去对齐版本

    distributedcognition 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 的 abliterated 版本,将 refusal directions 从同系 DeepSeek-V4.1-Flash-abliterated 迁移而来,以 scale 3.0 的保范双投影编辑作用于 attn.wo_b 和共享专家 ffn.shared_experts.w2(第 4-36 层)。评测显示 LLM 评审下真实拒绝率从基座的 99/100 降到 0/100(53 条完全配合、47 条带免责声明),无害提示 KL 散度 0.093,GSM8K 抽测 18/20 对比基座 19/20。

    推荐理由:原文给出拒绝率前后对比、KL 散度和 GSM8K 抽测数据,并说明关键词检测与 LLM 评审的差异,读者可据此评估去对齐程度。

  3. Hugging Face · 新模型:abliterated40

    DeepSeek-V4.1-Flash-1017 去审查版 MLX 量化模型发布:oQ4e 版本可在 Apple Silicon 运行

    bearzi 发布 mrfakename 制作的去审查版 DeepSeek-V4.1-Flash-1017-abliterated 的 MLX 量化模型,采用 oQ4e 级别量化,总权重 402.4 GiB,通过方向性消融移除拒答行为。在 512 GB 统一内存的 M3 Ultra 上测试:4k 上下文贪心解码 36.5 tok/s,4096 token 预填充 419 tok/s,Engram 表可留在 SSD 以节省内存。与原模型逐张量比对仅 124 个去审查编辑张量有差异。

  4. Hugging Face · 新模型:uncensored20

    MishraNepali/Lily-Cybersecurity-7B-Uncensored-GGUF_Q5_K_M 量化版发布

    Hugging Face 用户 MishraNepali 发布 Lily-Cybersecurity-7B-Uncensored 的 GGUF Q5_K_M 重新量化版本,体积从 13.5GB 降至 4.07GB,可在 16GB 内存的 CPU 上运行,也可在 Google Colab 使用。该模型源自 segolilylabs/Lily-Cybersecurity-7B-v0.2(Apache 2.0 协议),中间版本由 NiroshanDH 量化并做 abliteration 处理,推荐上下文窗口 4096 tokens,量化版可能出现模型幻觉。

  5. Hugging Face · 新模型:abliterated22

    TristanUK 发布 onyx-qwen2.5-7b-abliterated-lora-GGUF 量化模型

    TristanUK 在 Hugging Face 发布 abliterated 版 Qwen2.5 7B 的 GGUF 量化模型(Q4_K_M),提供去审查变体供本地推理使用。该模型可通过 llama.cpp 直接运行,支持 llama serve 启动 OpenAI 兼容本地服务器或命令行推理,也提供 Ollama(ollama run)、Docker Model Runner、Lemonade 等拉取运行方式。此外可接入 Pi、Hermes Agent、OpenClaw 等本地 Agent 工具,作为默认模型使用。

  6. Hugging Face · 新模型:uncensored36

    Qwen3.8-Flash-Next-Uncensored Q5_K_S Splash 重打包版发布

    tegsvenson 发布 Qwen3.8-Flash-Next-Uncensored 的 Q5_K_S 重打包 GGUF,将 96 个 hyper-connection inject 张量改为 F32 存储,使其可被 Splash 1.4.0 加载,其余 1,128 个张量与 orcarouter 原版逐字节一致,体积仅增加 12.42 MiB。该版本移除安全对齐(abliterated),在 M4 Max 128 GB 的 MacBook Pro 上经 oMLX 0.7.2 测试,可加载完整 262,144 token 上下文,冒烟测试输出速度 98.4 tok/s。

10月22日周四
  1. Hugging Face · 新模型:abliterated25

    Koshkasa 发布 GLM 4.5 Air 的 50% REAP 剪枝版 GGUF(abliterated lossy)

    Hugging Face 上架了基于 huihui 解除限制版 GLM 4.5 Air 制作的 50% REAP 剪枝模型,由 concedo 上传,格式为 GGUF、BF16。相比此前失败尝试,校准数据集被泛化(仍保留 60%/40% 创意偏置),激活记录长度提升到 8192(此前 3072),并用稀疏观察器避免物化整个 [128, dim, tok] 块。模型目前未经测试,可能无法加载或输出乱码。

  2. Hugging Face · 新模型:uncensored56

    AtomicChat 发布 Ling-3.0-flash-Sante 无对齐 GGUF 量化版

    AtomicChat 发布 inclusionAI/Ling-3.0-flash-Sante(127B bailingmoe3 医疗模型)的 abliterated GGUF 量化版,用投影 rank-1 LoRA 移除单一拒绝方向并烘焙进权重。在 W* 点实测:英文有害指令拒绝率 0.0%,俄语误拒率 3.0%(较基线降 1.2 pp),MMLU 基本不变,对基线 BF16 的 KL 为 0.060,工具调用 20/20 有效。注意开启思考模式时拒绝率仍约 40%,建议关闭思考模式使用;提供 IQ4_XS(约 78 GB)与 IQ3_S(约 61 GB)两种量化,MIT 许可。

    推荐理由:原文给出消融方法与拒绝率、MMLU、KL 等前后对照数据,还提示思考模式下拒绝率仍高,读者可据此判断实际效果。

  3. Hugging Face · 新模型:uncensored76

    candor-lab 发布 Qwen3.8-27B Candor Uncensored GGUF 去对齐权重

    candor-lab 在 Hugging Face 发布 Qwen3.8-27B 的去对齐版本 Qwen3.8-27B-Candor-Uncensored-GGUF,用其自研权重编辑工具 Candor 移除原版的拒答方向,以单一 Q4_K_M GGUF(16.81 GB)形式在 llama.cpp 上实测。方法是对 26-63 层注意力输出矩阵和 22-56 层 MLP 输出矩阵做 rank-3 修改(共 73 个矩阵),经 600 次搜索试验筛选。实测显示:288 个 StrongREJECT 有害提示下原版拒答 281 次,该模型仅 1 次(8B 判官口径);300 个无害提示拒答 2 次、GSM8K 答对 1287 题,与原版差异不超噪声;KL 散度 0.038。

    推荐理由:原文给出了消融方法的层级改动细节和与原版、huihui-ai 版的拒绝率与 KL 散度对照数据,可据此评估这个去对齐版本的实际取舍。

  4. Hugging Face · 新模型:abliterated26

    Huihui-GLM-4.5-Air-abliterated-lossy-REAP_50-safetensors 上架 Hugging Face

    Hugging Face 上架了基于 huihui 去限制版 GLM 4.5 Air 制作的 50% REAP 剪枝模型,由 concedo 上传。相比此前尝试,校准数据集被泛化(仍保留 60%/40% 创作偏向)并按源数据重新封装,激活记录长度从 3072 提升到 8192,并采用稀疏 observer 避免物化整个 [128, dim, tok] 块。该模型目前未经测试,可能无法加载、产生乱码或无法量化。

  5. Hugging Face · 新模型:abliterated22

    Koshkasa 发布 GLM 4.5 Air 的 37.5% REAP 剪枝版本(abliterated lossy)

    Hugging Face 上由 concedo 上传的 GLM 4.5 Air abliterated 版本(huihui 去限制版)的 37.5% REAP 剪枝模型。相比此前失败的尝试,校准数据集被泛化(保留 60% creative bias)并按源基准重新打包,激活记录长度从 3072 提高到 8192,并使用稀疏 observer 避免物化整个 [128, dim, tok] 块。模型目前未经测试,可能无法加载或输出乱码。

  6. Hugging Face · 新模型:uncensored62

    Qwen-Image-2.1-Turbo-Uncensored GGUF 发布,文本编码器拒绝率从 88.9% 降至 1.2%

    AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF,将 Qwen-Image 的文本编码器 Qwen3-VL-8B-Instruct 的拒绝方向投影移除,供 stable-diffusion.cpp 以 --llm 参数本地运行。作为聊天模型,英文拒绝率从 88.9% 降至 1.2%,俄语从 38% 降至 0%,MMLU 保持 77.35% 不变;图像侧在 45 条敏感提示上无一翻转,因原管线本就无内容过滤。提供 BF16 到 Q2_K 共 7 档量化,AD-Q4_K 为 4 bit 推荐,附完整制作方法与局限说明。

    同一新闻,精选展示《AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF 文本编码器,拒绝率从 88.9% 降至 1.2%》

  7. Hugging Face · 新模型:abliterated26

    Huihui-Qwen3.6-35B-A3B-abliterated-W4A16-GPTQ 量化模型上线 Hugging Face

    Hugging Face 上可用 nchapman 发布的 Huihui-Qwen3.6-35B-A3B-abliterated-W4A16-GPTQ,这是一个 abliterated 版的千问(Qwen3.6)多模态模型 W4A16 GPTQ 量化版本。页面给出用 Transformers、vLLM、SGLang 加载或部署的代码示例,三者均支持 OpenAI 兼容 API,也可通过 Docker Model Runner 运行。

  8. Hugging Face · 新模型:abliterated51

    gemma-3-4b-it-abliterated-v2 无对齐版本在 Hugging Face 发布

    Justanotherdayhereintheworld 发布 google/gemma-3-4b-it 的 abliterated 无审查版本 v2,采用新的消融技术,声称对拒绝行为的处理精度提升。通过对比有害与无害样本的残差流计算拒绝方向并对 o_proj 等模块的隐状态做正交化减除,并附 QAT 量化与 GGUF 版本链接。作者给出建议生成参数 temperature=1.0、top_k=64、top_p=0.95,用词典方法结合 NousResearch/Minos-v1 的混合评测计算接受率,目标是接受率超过 90% 且保持输出连贯。

  9. Hugging Face · 新模型:uncensored50

    na0fu3y 发布 Qwen3.8-Flash-Next-Uncensored 的 mlx-serve iQ-MLX 4.7bpw 量化版

    na0fu3y 发布 Qwen3.8-Flash-Next-Uncensored 的 mlx-serve iQ-MLX 4.7bpw 量化版,基于 orcarouter 的 abliterated bf16 权重,路由专家为 4-bit、其余多为 8-bit,含 MTP 头和视觉塔,移除安全对齐后可响应原模型拒绝的请求。下载体积 100 GB,无 --ple-gpu 时常驻约 75 GB;在 M3 Ultra 上 decode 速度约 124.3-124.8 tok/s,13 个边缘提示词中仅 1 个被拒绝(对照组为 11 个)。许可证为 Qwen Community License 1.0。

  10. Hugging Face · 新模型:uncensored66

    electroglyph 发布 LFM2.5-24B-A2B 的去对齐版 uncensored2

    electroglyph 用 Heretic v2.0.0.dev0 的任意秩消融(ARA)方法发布了 LiquidAI/LFM2.5-24B-A2B 的去对齐版本。拒绝率从原版的 99/100 降到 4/100,KL 散度为 0.0650,PIQA acc_norm 为 0.7497(原版 0.7443);该版本从 50 个候选中选出,仅对第 14 到 27 层做处理。

    推荐理由:原模型拒绝率高达99/100,去对齐后降到4/100,同时给出KL散度和PIQA分数,可核对能力损失程度。

  11. Hugging Face · 新模型:abliterated54

    lilcheaty 发布 RecursiveSI/flint 的 abliterated 去对齐权重版

    lilcheaty 发布了 RecursiveSI/flint 的 abliterated BF16 衍生版本,按 Arditi et al. 2024 的拒绝方向方法从第 20 层估计方向并编辑了 12,131 个张量,采用 Apache 2.0 许可。Q3_K_M 量化版在 20 条保留提示上显式拒绝从 20/20 降到 0/20,20 条编码提示双方均 0 拒绝且 40/40 完成回答,作者提醒该小规模对比不代表通用安全或能力基准。运行需 llama.cpp PR #30928 等补丁,GGUF 转换版在 lilcheaty/flint-abliterated-GGUF。

    推荐理由:作者给出了拒绝方向的估计方法与 20 条保留提示上的拒绝率前后对比,还说明了编辑未覆盖的局限。

  12. Hugging Face · 新模型:abliterated53

    lilcheaty 发布 Flint abliterated Q3_K_M GGUF 去对齐权重

    lilcheaty 基于 RecursiveSI/flint 发布权重编辑的去对齐版本 flint-abliterated-GGUF,沿用 Apache 2.0 协议,从 128 条 AdvBench 有害提示与 128 条 Alpaca 无害提示估计拒绝方向并改写权重。实测显示 20 条保留提示上显式拒绝从 20/20 降到 0/20,20 条编码提示双方均 0 拒绝且 40/40 完成回答;作者说明该对比规模小、不构成通用安全或能力基准,运行需应用 llama.cpp PR #30928 的补丁版本。

    同一新闻,精选展示《lilcheaty 发布 RecursiveSI/flint 的 abliterated 去对齐权重版》

  13. Hugging Face · 新模型:uncensored73

    dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重版

    dealignai 团队基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone,8B/16B 激活)发布权重级 abliterated 无对齐版本,原生 FP8 量化、1M token 上下文,保留视觉、推理与工具调用能力。HarmBench-320 实测 CRACK 版在 effort=off 和 max 下均 100% 响应、零 HARD_REF/SOFT_RED/HEDGE,而基座在 effort=max 拒绝率反而升至 42.8%→1.6% 通过;MMLU-14k 全集准确率从 86.96% 降至 82.74%,剔除伦理类科目后仅 -1.1 pp。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  14. Hugging Face · 新模型:abliterated28

    Huihui-MiniCPM5-2B-abliterated:openbmb/MiniCPM5-2B 的无审查版本

    Huihui-ai 发布 openbmb/MiniCPM5-2B 的无审查版本 Huihui-MiniCPM5-2B-abliterated,采用 abliteration 技术移除 LLM 的拒答行为,且不依赖 TransformerLens。该版本 abliterated 第 6-37、40 层(0-based),属概念验证实现,用于探测各层对消融的影响;由于模型太小,性能仍不足。模型可通过 Hugging Face transformers 库加载使用。

  15. Hugging Face · 新模型:abliterated32

    Spark-X2.6-4B-Abliterated GGUF 发布:内置 Sharp-Spark 聊天模板

    cinnybun02 在 Hugging Face 发布 Spark-X2.6-4B-Abliterated 的 Q5_K_M GGUF(2.77 GiB),用 llama.cpp 的 gguf_new_metadata.py 仅改元数据,将 Sharp-Spark v1.0.0 模板内置为 tokenizer.chat_template,权重与源文件逐字节一致。该模型为 XHToken 的 4.1B dense thinking model,经 Heretic 去除 53 个张量中的 refusal 方向;spark2_5 架构下 131k 上下文时 KV cache 量化后约 1.9-2.5 GiB。

  16. Hugging Face · 新模型:abliterated76

    orcarouter 发布 DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化权重

    orcarouter 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 去对齐(abliterated)版的 GGUF 量化权重,提供 Mix-256G(235.8 GB 内存占用)与 Mix-128G(114.0 GB)两种构建,基于 763B 参数 MoE 模型,含 197B 参数 Engram n-gram 表常驻 SSD。去对齐后 500 条有害提示拒绝率加权均值从 0.874 降至 0.074,过度拒绝从 0.069 降至 0.006,MMLU 保持 0.91 左右不变。

    推荐理由:原文给出实测 KLD、拒绝率与 MMLU 前后对比,读者可据此判断这个去对齐版本到底去掉了多少、能力是否保留。

  17. Hugging Face · 新模型:abliterated76

    Spark-X2.6-4B 消融版发布 FIT-GGUF 五档量化,输入门控消融将 KL 扰动降至 0.0477

    SC117 发布 Spark-X2.6-4B-abliterated 的 FIT-GGUF 量化仓库,基于 XHToken/Spark-X2.6-4B 本地做输入门控消融,100 条留出有害提示的拒绝数从 99 降到 7,3-token 全分布 KL 扰动 0.0477,比同拒绝门槛下无门控的 0.2134 低 78%。仓库含 5 个经 KL 门限验证的 FIT 档位加 BF16 参考文件,五档合计 12.84 GiB,比同门槛下最小原生预设小 0.60 GiB(4.5%),其中两档即原生预设;imatrix 由公开语料重建,评测切片未进入校准文本。

    推荐理由:原文给出输入门控消融的拒绝率与 KL 前后对比,以及五档量化相对原生预设的实测差距,可据此评估取舍。

  18. Hugging Face · 新模型:abliterated20

    privastudio 发布 Qwen3.8-27B Abliterated GGUF 版本

    privastudio 在 Hugging Face 上重新分发 huihui-ai 制作的 Huihui-Qwen3.8-27B-abliterated 的 Q4_K GGUF 量化版(约 16.8 GB),打包为可在 PrivaEmanator 中本地加载的格式。该模型基于 Qwen3.8-27B,由 huihui-ai 移除了拒绝回答行为,附带 mmproj-BF16.gguf 视觉投影文件以支持图像输入,采用 Apache-2.0 许可证。

  19. arXiv · cs.CL61

    研究:去审查不等于无偏差,abliteration 移除拒绝但不移除关于台湾的脚本依赖偏差

    Ju-Chun Ko 在 arXiv 发表论文(arXiv:2610.29342),测试 abliteration(去审查)模型是否同时消除政治审查相关偏差。研究用 NVIDIA Nemotron 3.5 Bolt 74B-A9B 与 Qwen3.8-Flash-Next 及各自的社区 abliteration 版本,以繁体中文、简体中文和英文各回答 22 组陈述对和 27 个开放问题。结果显示脚本影响远大于 abliteration:原版 Bolt 在繁中 Index S 得分 +0.58、英文 +0.57、简中仅 +0.05,且以 0.91 的概率在简中肯定台湾属于 PRC、繁中仅 0.06;abliteration 最多改变 0.06。

    推荐理由:论文用配对模型实测 abliteration 前后偏差,显示去审查不等于去立场偏差,并给出脚本切换与立场方向的量化证据。

  20. Hugging Face · 新模型:abliterated36

    Qwen3.8-Flash-Next-Abliterated-Uncensored GGUF 发布

    cc1244578151 在 Hugging Face 发布 Qwen3.8-Flash-Next-Abliterated-Uncensored GGUF 量化模型,规格为 120B 参数、180B 级 512 专家 MoE(每 token 激活 10 个),并搭载 Turbo Brilliance 50x 系统(27 推理 + 27 instruct 模式,另有 9 个 xhigh)与 15 个 AI Constructs。该版本经 abliterated 去审查处理、无 censorship,支持在提示词、API 或 VLLM 中实时切换模式,可在 12GB 显存 GPU 上运行;实测 46GB 双 GPU + 内存 offload 达 17 t/s,全 GPU offload 达 60-90 t/s。

  21. Hugging Face · 新模型:abliterated48

    DeepSeek V4.1 Flash 1017 Abliterated MLX 版本上传中:面向 Apple Silicon 的 oQ2.5e 混合精度检查点

    apetersson 正在上传 DeepSeek V4.1 Flash 1017 Abliterated 的 MLX 版本,为 Apple Silicon 准备的 oQ2.5e 混合精度检查点,共 53 个 Safetensors 分片,包大小约 342.7 GB,尚未完成,需等待 PUBLICATION.json 和 v1-oQ2.5e-mtp 标签发布后再下载。推荐在 256 GiB 统一内存 Mac 上用 oMLX 0.7.2 运行,上下文从 32K 起步,Engram 张量约 114.4 GiB 卸载至本地 SSD;SSD 前缀缓存测试中 8,588 个 token 复用 8,192 个,请求耗时从 14.62 s 降至 1.45 s。

  22. Hugging Face · 新模型:uncensored45

    Qwen3.8-Flash-Next Abliterated 无审查 GGUF 版发布,搭载 Turbo Brilliance 系统

    Hugging Face 用户发布 Qwen3.8-Flash-Next-Abliterated-Uncensored-Turbo-Brilliance 的 GGUF 量化版,为 180B 参数、512 专家(每 token 激活 10 个)的无审查 abliterated 模型。其 Turbo Brilliance 系统含 27 推理与 27 instruct 模式及 15 个 AI Construct,可在提示词、API 或 VLLM 中即时切换,instruct 模式 0 thinking token;量化由 GSQ-RCO 完成,可在 12GB 显存 GPU 上运行,RTX6000(96GB)估计达 150 t/s。

  23. Hugging Face · 新模型:abliterated63

    Spark-X2.6-4B-Abliterated GGUF 发布,拒绝率从 43/44 降到 0/44

    alexwkleung 用 Heretic 对 XHToken/Spark-X2.6-4B(dense 4.1B 思考模型)做定向消融,发布 abliterated GGUF 权重,并用 llama.cpp 量化出 Q4_K_M 到 Q8_0 多档。与官方 Q8_0 对照:拒绝率从 43/44 降到 0/44(thinking 开与关均如此),GSM8K n=100 为 88/100 对 91/100,McNemar p=0.45 未检出数学回归;代价是思考开启时平均约 5k tokens(stock 529),部分超出 8192 预算,无拒绝系统提示可将其减半。

    推荐理由:原文给出与官方 Q8_0 逐位对照的拒绝率、GSM8K 和思考开销数据,可据此判断这个去对齐版本的实际代价。

  24. Hugging Face · 新模型:abliterated55

    Sage-A1.5 网络安全向去对齐版发布,MLX 8-bit 量化并保留 MoE MTP 草稿头

    thelogicalgate 基于 InternScience/Sage-A1.5 发布网络安全向拒绝消融(abliteration)版本,打包为 Apple Silicon 原生 MLX 8-bit 量化并保留原训练的 MoE 多 token 预测(MTP)草稿头。校准使用 mlabonne/harmful_behaviors 与 harmless_alpaca 各 128 条提示,在 8–31 层以强度 0.75 修改 72 个输出投影模块,路由权重与 QKV 投影未改动;12 条非工具冒烟提示中拒绝启发式检出基线 2 次、修改版 0 次,本地 Python 反序列化与 IDOR PoC 由基线拒绝变为可产出脚本。

    推荐理由:原文给出了激活校准方向、修改层与拒绝率前后对比等实测细节,读者可据此判断这个去对齐版本的实际改动幅度。

  25. Hugging Face · 新模型:uncensored68

    Subnet46 发布 GLM-5.3-Flash 的 abliterated 无对齐版 EXL3/FP8 权重

    Subnet46 在 Hugging Face 发布 zai-org/GLM-5.3-Flash 的 abliterated 版本,通过正交化移除拒绝方向并直接烘焙进官方 block-FP8 分片,可原位替换原权重。JailbreakBench 有害拒绝率从 0.891 降至 0.094,过度拒绝从 0.094 降至 0.000,MMLU 等四项能力基准变化在 ±1.5 pp 内;部分内容类别不受该方向中介仍接近原拒绝率,权重共 306 GiB,需 8×H100/H200 以张量并行运行。

    推荐理由:原文给出拒绝率前后对比、能力保留数据和拒绝方向所在层的分析,可据此判断这次去对齐实际去掉了多少。

  26. Hugging Face · 新模型:abliterated60

    DevelopingDad 发布 Qwen3.8-Flash-Next-FP4-Local-Abliterated 去对齐权重

    DevelopingDad 在 Hugging Face 发布基于 NVIDIA Qwen3.8-Flash-Next-FP4-Local 的去对齐独立权重,将 trial 117 实验的拒绝方向干预直接烘焙进 checkpoint,无需运行时 adapter。实测显示烘焙版拒绝数为 0/100(开发集)与 3/100(保留集),与原 adapter 的 KL 差异约 0.037 nats;散文解码约慢 12%(34.8 vs 39.4 tok/s),代码速度基本持平,需 B12X vLLM 运行时,serve-spark.sh 支持 262,144-token 上下文与 MTP 投机解码。

    推荐理由:原文给出了拒绝率与 KL 的实测对比和单机性能数据,读者可以据此判断这个去对齐版本的实际代价与效果。

  27. Hugging Face · 新模型:abliterated66

    theJuice85 发布 Qwen3.8-27B 去对齐 LoRA 适配器,硬拒绝率降至约 0

    theJuice85 在 Hugging Face 发布面向 Qwen3.8-27B-GGUF(Q4_K_XL)的去对齐 LoRA 适配器 heretic-qwen38-t26,用 directional ablation 搜索找到。实测将硬拒绝率从基座的 33-86% 降到约 0,能力评测(AIME24、GPQA、MMLU Pro 等 43 个成对项)未发现可统计的能力损失;仅 2.5 MB,AGPL-3.0-or-later。注意其只评测了拒绝率与能力回归,未评测下游安全性,且系统提示词是必要条件,缺失时模型会以带说教的方式作答。

    推荐理由:作者给出成对的拒绝率与能力回归数据,硬拒绝从 33-86% 降到约 0 且能力无可测差异,可据此判断这个去对齐适配器的实际效果。

10月21日周三
  1. Hugging Face · 新模型:abliterated68

    Ternary-Bonsai-2 27B 无对齐版重打包为 1.75-bit GGUF 并附 MTP 草稿头发布

    Cheurteen 在 Hugging Face 发布了 Hikari07jp 消融版 Ternary-Bonsai-2 27B 的重打包 GGUF:把三值权重从 2.125-bit 编码重新量化到 Prism 的 1.75-bit PTQ1_0 格式,并将 PrismML 的 MTP 草稿头以 Q4_0 重新量化合并。实测在 RTX 3070 8 GB 上,带草稿头的文件达 69.3 tok/s,无头版本 50.8 tok/s;困惑度 8.2894 优于 2.125-bit 版的 8.4593,MMLU 76.07%、HumanEval pass@1 75.00%,重打包仅改变 0.0943% 的权重、MMLU 差 0.14 点。

    推荐理由:作者不仅重打包了消融权重,还给出困惑度、tok/s 和 MMLU 等前后对照数据,可以看清 1.75-bit 格式相对 2.125-bit 的实际收益。

  2. Hugging Face · 新模型:uncensored80

    AtomicChat 发布 DeepSeek-V4.1-Flash-1017 无拒绝版 GGUF 权重

    AtomicChat 将 DeepSeek-V4.1-Flash-1017 中的拒绝方向从权重中投影移除,发布 GGUF 量化版和 rank-1 LoRA 适配器。实测 JailbreakBench 英文拒绝率从 88.9%/91.4% 降至 0.0%,3.58bpw-Q2_K 档 MMLU 86.0%→86.6%,2.67bpw-IQ1_M 档 MMLU 降至 81.8% 未通过门槛;需支持 DeepSeek-V4.1 的 llama.cpp 构建(如 Unsloth 的 commit 9d907b7cfe0e),Engram n-gram 表可留在 SSD 上分页读取。

    推荐理由:原文给出拒绝率、KLD 和 MMLU 的前后对照数据,还说明各量化档的取舍,读者可据此选择合适的版本。