跳到正文
今天10月26日周一15 条
  1. Hugging Face · 新模型:uncensored70

    dealinai 发布 GLM-5.3-Flash 无审查 FP8 权重,HarmBench-320 零拒绝且 MMLU 反超基线

    dealinai 以 CRACK 方式对 GLM-5.3-Flash 做权重级去审查并发布 FP8 版本(320B 总参数、18B 激活、1M 上下文),直接在张量中移除拒绝行为,不用 SFT、DPO、LoRA 或模板技巧。HarmBench-320 上 reasoning-OFF 和 max 档 320/320 全通过、0 拒绝(low 档保留部分拒绝),MMLU 87.33% 高于基线 86.74%;H200 TP4 原生 FP8 解码 163 tok/s,开启 MTP 投机解码达 211 tok/s、接受率 75.9%。

    同一新闻,精选展示《GLM-5.3-Flash UNCENSORED FP8 发布,权重级去对齐且 MMLU 反超基座》

  2. Hugging Face · 新模型:abliterated34

    Huihui-Qwen3.8-27B-abliterated-GGUF 发布:Qwen3.8-27B 去审查版本

    huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术移除拒绝行为,发布无审查版 Huihui-Qwen3.8-27B-abliterated-GGUF。该版本仅对第 22 至 52 层(0 起始索引)做消融,其余层保持不变,并提供 Q2_K_L 至 Q8_0_L 等多种量化格式,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行,支持 -c 262144。模型安全过滤大幅降低,建议用于研究测试环境。

  3. Hugging Face · 新模型:uncensored38

    Gptsn/Llama-3.2-3B-Instruct-uncensored-GGUF 量化版本发布

    基于 unsloth/Llama-3.2-3B-Instruct 的去审查微调模型推出 GGUF 量化版本,abliteration 后 KL 散度仅 0.0265,测试中 100 次拒绝仅 4 次,并保留多语言能力。提供 Q4_K_M(2.02GB)、Q5_K_M(2.32GB)、Q8_0(3.42GB)和 f16(6.43GB)四种量化,可在 LM Studio 或 Ollama 中加载使用。

  4. Hugging Face · 新模型:abliterated64

    R0U5 发布 Qwen2.5-1.5B-Abliterated(Lethe)去拒绝版本

    R0U5 在 Hugging Face 发布基于 Qwen2.5-1.5B-Instruct 的 abliterated 版本,用 Lethe 方法从对比激活中计算拒绝方向并从残差写入权重矩阵(含嵌入矩阵)中正交化移除。模型转为 GGUF 后在 llama.cpp 实际服务环境验证,20 条 held-out 拒绝诱导提示的拒绝数从 17/20 降到 0/20,连贯性检查通过;并指出自评同源采样和把退化输出计为合规两种假完美陷阱。提供 Q8_0(1.65 GB)与 f16(3.09 GB)权重,经 YaRN 扩展至 65,536 token 上下文,作者明确说明消融只改变拒绝行为、不增加能力。

    推荐理由:原文给出 Lethe 消融方法、llama.cpp 实测拒绝率从 17/20 降到 0/20,还说明了两个易被忽视的评测陷阱。

  5. Hugging Face · 新模型:abliterated36

    Huihui-Kolibri-1-BF16-abliterated-GGUF:Aleph-Alpha Kolibri-1-BF16 的无审查版

    huihui-ai 基于 Aleph-Alpha/Kolibri-1-BF16 制作了 abliterated 无审查版本,全程用 llama.cpp 的 GGUF 完成,不依赖 Transformers。已用 llama.cpp 重新量化并上传 Q2、Q3、Q4、Q5、Q6、Q8 和 BF16 版本。原版 llama.cpp 暂不支持 kolibri1 架构,需应用仓库内提供的补丁并检出 commit 836d571 后编译。

  6. Hugging Face · 新模型:abliterated64

    gemma4-12b-it-abliterated 发布:从 Gemma 4 12B 权重中移除拒绝方向

    pasangimhana 发布 gemma4-12b-it-abliterated,基于 google/gemma-4-12B-it 做权重编辑,将拒绝方向从残差写入中正交化移除,无训练无微调,bf16 单文件 23.9 GB,共修改 97 个张量。大基准(769 条有害提示)上有害拒绝率从 454 降到 6,comply 从 32% 升至 91%,良性提示退化输出率与基座相同(9/92);方法上在每层捕获 150 有害与 150 无害提示的残差求方向,采用以第 24、28 层为中心、sigma 6 的宽高斯带正交化,并强调嵌入编辑不可省略。使用时需将 <turn|>(token 106)设为停止符;模型无任何安全过滤,作者提醒不要无外部策略层直接公开部署,且未跑 MMLU、GSM8K 等能力基准。

    推荐理由:原文给出消融方法、拒绝率前后对比和退化输出对照,读者可据此判断这次权重编辑去掉了多少拒绝行为、代价多大。

  7. Hugging Face · 新模型:abliterated26

    Qwen2.5-7B-Instruct-abliterated-64k 发布:元数据修复版 GGUF

    R0U5 在 Hugging Face 发布 Qwen2.5-7B-Instruct-abliterated-64k,这是基于 huihui-ai 消融模型与 mradermacher GGUF 量化的元数据修复版,非新增消融。仓库将 context_length 重新声明为 65536 并添加 YaRN rope scaling 元数据(factor 2.0),以满足 Hermes Agent 64,000 token 最低上下文要求,权重与上游量化逐位一致。经 llama.cpp 验证 12 个拒绝测试提示 0 拒绝,Q4_K_M 版本 4.68 GB。

  8. Reddit · r/LocalLLaMA16

    Swift 1.5 Qwen Flash Next IQ3XXS(GSQ RCO)Abliterated 版能否只下载变化的权重?

    一位 r/LocalLLaMA 用户在运行 Swift 1.5 Qwen Flash Next 的 GSQ RCO IQ3XXS 量化版本,但因模型偶尔拒答,想再准备一个 Abliterated 版本,仅在少数场景下使用。由于存储空间只剩不到 1TB,他询问能否只下载两个版本之间变化的权重并合并,避免完整双份下载。

  9. Hugging Face · 新模型:abliterated58

    Nanbeige4.3-33B 网络安全去对齐 GGUF 版发布,拒绝率从 80% 降到 8%

    FRENCHFAKER 发布首个 abliterated 版 Nanbeige4.3-33B GGUF,用 refusal-direction ablation 移除原始模型对进攻性安全请求的拒绝行为。50 条有害提示词基准上拒绝率从 80%(40/50)降至 8%(4/50),安全/渗透测试类提示词拒绝率约 0%,推理与工具调用保持完整;IQ4_XS 量化约 17 GB,可在单张 24 GB GPU 上以约 33 tok/s 运行,基于 Apache-2.0 许可。

    推荐理由:原文给出拒绝率前后对照和逐层消融方法,读者可据此评估这个去对齐版本的可靠程度。

  10. Hugging Face · 新模型:abliterated25

    huihui-ai 发布 Huihui-gemma-4-12B-agentic-fable5-abliterated 去审查版本

    huihui-ai 基于 yuxinlu1/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2 制作 abliterated 去审查版本,在不使用 TransformerLens 的情况下移除模型拒绝行为,属于概念验证实现。该模型安全过滤大幅减弱,可能生成敏感或不当内容,官方建议仅用于研究、测试或受控环境,避免直接投入生产或面向公众的商业应用。

  11. Hugging Face · 新模型:abliterated22

    Huihui-GLM-5.3-Flash-abliterated 模型在 Hugging Face 上提供 Transformers、llama.cpp、vLLM 等多框架使用指南

    0xSojalSec 在 Hugging Face 发布 Huihui-GLM-5.3-Flash-abliterated,支持 image-text-to-text 任务,提供 UD-Q4_K_XL 量化版本。页面给出 Transformers pipeline、llama.cpp、vLLM、SGLang、Ollama、Docker 等多种部署方式的完整命令,可通过 OpenAI 兼容 API 本地运行该模型。

  12. Hugging Face · 新模型:abliterated22

    0xSojalSec 发布 GLM-5.3-Flash-abliterated 模型

    Hugging Face 上架了 0xSojalSec/GLM-5.3-Flash-abliterated,一个 abliterated(去抑制)版本的 GLM-5.3-Flash 多模态模型,支持 image-text-to-text 任务。页面给出 Transformers、llama.cpp(UD-Q4_K_XL 量化)、vLLM、SGLang、Ollama、Docker 等多种本地与服务器部署方式,并提供 OpenAI 兼容 API 调用示例。

10月25日周日
  1. Hugging Face · 新模型:abliterated41

    Huihui-DeepSeek-V4.1-Flash-1017-abliterated GGUF 版本发布

    huihui-ai 基于 deepseek-ai/DeepSeek-V4.1-Flash-1017 发布 abliterated 去审查版本,完全用 llama.cpp 的 GGUF 完成 abliteration,未依赖 Transformers。仅 abliterate 第 11 至 28 层(0 起始索引)的 18 个 attn_output_b 张量,专家系统未改动;UD 系列来自 unsloth 的 GGUF。模型安全过滤大幅降低,建议用于研究或受控环境,支持 262144 上下文长度。

  2. Hugging Face · 新模型:abliterated68

    Qwen3.8-Flash-Next-FP4-Local-Abliterated 发布:不改权重、推理时去对齐

    lesj0610 发布基于 nvidia/Qwen3.8-Flash-Next-FP4-Local 的 abliterated 版本,权重文件与基座逐字节一致,仅靠 config.json 中的 abliteration_config 块和 fp4local-abliterated vLLM 插件在推理时做拒绝方向投影。625 条有害提示的拒绝短语命中从基座 97.92% 降到 0.16%,MMLU 较基座低 1.30 分,GSM8K 无显著变化;需 vLLM 0.32.1rc0 以上版本,拒绝行为仅在英文下测试,视频能力未评测。

    推荐理由:原文给出拒绝率、MMLU/GSM8K 与基座的对照数据,并解释了为什么对 FP4 量化权重选择推理时投影而非直接改权重。

  3. Hugging Face · 新模型:abliterated25

    mradermacher 发布 Ornith1.0-9B-3MPER0RR-abliterated GGUF 量化模型

    Hugging Face 用户提供 mradermacher/Ornith1.0-9B-3MPER0RR-abliterated-GGUF 模型(Q4_K_S 量化版),可在 llama.cpp、Ollama、Docker Model Runner 等多种本地工具中运行。文档给出 macOS、Linux、Windows 各平台的安装与启动命令,支持通过 llama serve 启动 OpenAI 兼容本地服务器或直接在终端推理,还覆盖 LM Studio、Pi、Hermes Agent、OpenClaw 等客户端配置方法。

  4. Hugging Face · 新模型:abliterated37

    Huihui-Qwen3.8-27B-abliterated-GGUF 发布:Qwen3.8-27B 去审查版本

    huihui-ai 发布基于 Qwen/Qwen3.8-27B 的 abliterated 去审查 GGUF 版本,通过 abliteration 技术移除模型拒绝回答的行为,仅消融部分层(如第 22 至 52 层,0 起始索引),MTP 与视觉部分未改动。提供 Q2_K_L 至 Q8_0_L 等多种量化,其中需消融的权重已转为 Q8_0 或 BF16 以提升回复质量,支持 262144 上下文长度,可通过最新版 ollama(huihui_ai/Qwen3.8-abliterated)或 llama.cpp 运行。模型安全过滤大幅降低,建议用于研究测试而非生产环境。

  5. Hugging Face · 新模型:abliterated38

    Qwen3.8-Flash-Next DS4 Mixed-Q3-64GB abliterated v2 GGUF 发布

    Krissaito470 发布 Huihui 的 Qwen3.8-Flash-Next abliterated v2(去审查版)的 DS4 GGUF,采用 Mixed-Q3-64GB 布局,文件 143.3 GiB,常驻权重 47.96 GiB,可在 64 GB Mac 运行。v2 未消融任何专家张量,仅以 96 个 Q8_0 张量覆盖基础文件;8K 上下文下解码 68.9 tok/s,MTP 开启时代码生成达 102.8 tok/s。内存占用约 49-54 GiB(8K-131K ctx),需支持 BF16 n-gram 的 DwarfStar 构建。

  6. Hugging Face · 新模型:abliterated58

    Qwen3.8-Flash-Next GSQ-RCO 量化包发布,附运行时去拒绝向量与实测数据

    作者发布了一个 Strata 运行时去拒绝方案包,收录 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四档 GSQ-RCO 量化权重(逐字节复制并校验 SHA256),外加一个 480 KB 的拒绝方向向量文件,来自 Huihui 对 144 个残差写入张量的秩一编辑,在推理时对每层残差流做投影 h = h - (h·r)r 以移除拒绝行为。

    推荐理由:作者用拒绝率、KL 散度和解码速度实测了运行时去拒绝向量的效果,数据可直接用于判断这种方案对输出的改动幅度。

  7. Hugging Face · 新模型:abliterated58

    R0U5 发布 Qwen3.5-9B-Abliterated(Lethe)无对齐版权重

    R0U5 用 Lethe 正交化消融方法放出 Qwen/Qwen3.5-9B 的永久无对齐版本权重,拒绝率从 3.1% 降到 0.0%,KL 散度 0.009。方法对所有 32 层共 64 个残差写入投影做消融,bf16 权重约 18 GB,Apache-2.0 协议,并附 GGUF 转换与量化命令,q8_0 约 9 GB、q4_k_m 约 5.5 GB。

    推荐理由:原文给出拒绝率前后对比、KL 散度和 64 个矩阵的消融范围,去对齐程度与能力损失都有数据可查。

  8. Hugging Face · 新模型:uncensored36

    zugquants 发布 Qwen3.8-Flash-Next-Abliterated-Uncensored-Turbo-Brilliance-50x-Reasoning-Instruct-GSQ-RCO-GGUF 量化模型

    zugquants 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 GSQ-RCO GGUF 量化版,为 120B/180B 参数、512 专家(每 token 激活 10 个)的无审查 abliterated 模型。内置 Turbo Brilliance 系统含 27 种 reasoning、27 种 instruct 模式及 15 个 AI CONSTRUCTS,可在提示词或 API 中即时切换。实测 46 GB 双 GPU 加 RAM offload 达 17 t/s,全 GPU offload 60-90 t/s,12GB 显存起可运行。

  9. Hugging Face · 新模型:abliterated40

    zugquants 发布 Qwen3.8-Flash-Next-Abliterated-Uncensored-Turbo-Brilliance-50x-Reasoning-Instruct-GSQ-RCO-GGUF 量化模型

    zugquants 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 abliterated(去审查)GGUF 量化版,参数量 120B,Turbo Brilliance 文中另一处称 180B、512 专家(每 token 激活 10 个),含 27 推理 + 27 instruct 模式(另有 9 个 xhigh)及 15 个 AI Construct。模型可在 12GB 显存 GPU 上运行,2 GPU 加 RAM offload 实测 17 t/s,全 offload 达 60-90 t/s,RTX 6000(96GB)估计 150+ t/s,采用强于 QAT 的 GSQ-RCO 量化并称达 SOTA BF16 级性能。

  10. Hugging Face · 新模型:uncensored62

    DeepSeek-V4.1-Flash-1017 无对齐 FP8 权重发布,HarmBench 320 项全部配合

    dealignai 发布基于 DeepSeek-V4.1-Flash-1017 的无对齐版本,在原生 FP8 e4m3 权重上做消融编辑去除拒绝行为,保留 1M 上下文、多模态、工具调用与推理档位,与上游字节兼容可直接加载。HarmBench-320 实测 320/320 全部 COMPLY、零拒绝;MMLU 从基座 87.63% 降至 83.77%(-3.86 pp), Humanities 类损失最大达 -7.31 pp。低比特量化建议在目标精度上重跑消融流程,原生命令行推理已验证于 4×H200,SGLang 启动参数与构建工具链要求在模型卡中给出,MIT 许可,仓库手动门控。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-1017 无对齐 FP8 权重发布,HarmBench 320 题全部合规》

  11. Hugging Face · 新模型:uncensored72

    dealignai 发布 DeepSeek-V4.1-Flash 的无对齐消融版 FP8 权重

    dealignai 基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone、8B/16B 激活)发布了权重级消融的无对齐 FP8 版本 DeepSeek-V4.1-Flash-UNCENSORED-FP8,无需自定义 model.py 或运行时钩子。HarmBench-320 实测显示 base 模型 effort=off 时 ASR 为 42.81%、effort=max 时仅 1.56%,消融版在两档下均 100% 回答且零拒绝;MMLU-14k 从 86.96% 降至 82.74%(剔除伦理类后约 -1.1 pp)。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》

  12. Hugging Face · 新模型:abliterated22

    huihui-ai 发布 Huihui-Qwen3-8B-abliterated-v2:基于 Qwen3-8B 的去审查版本

    huihui-ai 基于 Qwen/Qwen3-8B 通过 abliteration 技术制作出去审查版本 Huihui-Qwen3-8B-abliterated-v2,采用新的更快消融方法并修复了上一版问题,还调整了 0 层以消除乱码。该模型可在 Hugging Face 用 transformers 加载,Ollama 端可用 huihui_ai/qwen3-abliterated:8b-v2 直接运行,并通过 /set think 和 /set nothink 切换思考模式。

  13. Hugging Face · 新模型:uncensored40

    Minecraftism 4B Uncensored 模型发布:Hugging Face 上的 Minecraft 玩家机器人大脑

    mr-sus 发布 Minecraftism 4B Uncensored(safetensors),一个基于 huihui-ai/Huihui-Qwen3-4B-Instruct-2507-abliterated 的 4.02B 参数 Minecraft 玩家机器人模型,可输出 JSON 行动指令并回答游戏问题,也能兼作日常助手。模型经去审查处理,16-bit 权重约 8.04 GB、需约 10 GB 显存;held-out 评测中 100.0% 输出有效 JSON、89.6% 行动正确,采用 PolyForm Noncommercial 1.0.0 许可,可配合 transformers、vLLM 使用,GGUF 版适配 Ollama、llama.cpp 和 LM Studio。

  14. Hugging Face · 新模型:uncensored36

    mr-sus 发布 Minecraftism 4B Uncensored GGUF 量化版本

    codero-sus 在 Hugging Face 发布 Minecraftism 4B Uncensored 的 GGUF 量化版本,共 5 档(Q3_K_M 2.08 GB 至 Q8_0 4.28 GB,Q4_K_M 默认 2.5 GB),可用 Ollama 或 llama.cpp 运行。该模型 4.02B 参数,基于 huihui-ai/Huihui-Qwen3-4B-Instruct-2507-abliterated 微调,是 Minecraft 玩家机器人 PyMC Bot 的"大脑",能输出 JSON 行动指令,held-out 评测中 100.0% 输出合法 JSON、89.6% 动作正确。微调采用 PolyForm Noncommercial 1.0.0 许可,仅限个人非商业使用。

  15. Hugging Face · 新模型:uncensored56

    DeepSeek-V4.1-Flash-1017 的无对齐 FP8 权重版发布

    dealignai 发布了基于 deepseek-ai/DeepSeek-V4.1-Flash-1017 的去拒绝版本 DeepSeek-V4.1-Flash-1017-UNCENSORED-FP8,仅做权重级 abliteration,不用量化、模板改写或系统提示注入。保留原生 FP8 e4m3 + FP4 专家、1M 上下文、多模态、工具调用与推理档位,与上游字节兼容可直接加载。自测 HarmBench-320 全部 320 条 COMPLY 无任何拒绝,MMLU 20×57 从 87.63% 降到 83.77%, Humanities 降幅最大达 -7.31 pp。附 4×H200 参考引擎运行方法与 SGLang 启动参数,仓库手动门控,MIT 许可。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-1017 无对齐 FP8 权重发布,HarmBench 320 题全部合规》

  16. Hugging Face · 新模型:abliterated72

    DeepSeek-V4.1-Flash-1017 去对齐版发布 GGUF 量化构建

    10exdev 发布 DeepSeek-V4.1-Flash-1017 去对齐(abliterated)版本的 GGUF 量化构建,提供 235.8 GB 的 Mix-256G 与 114.0 GB 的 Mix-128G 两种混合精度档位。拒绝率加权均值从基座的 0.874 降到 0.074,MMLU 保持 0.91 左右;需 llama.cpp PR #30817 才能加载,Engram 表存于 SSD。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布,763B MoE 最低 235.8 GB 内存可跑》

  17. Hugging Face · 新模型:uncensored66

    SmolLM3-3B 的 Heretic 去对齐版本发布,拒绝率从 82 降到 3

    virtualdmns 发布基于 HuggingFaceTB/SmolLM3-3B 的 abliterated 版本 SmolLM3-3B-Heretic-Uncensored,用 Heretic 定向消融配合 Optuna TPE 参数搜索,100 次试验中选出 Pareto 前沿上的最优权衡。独立复测显示拒绝率从基线的 82/100 降到 3/100,KL 散度为 0.0684;架构、tokenizer 和聊天模板不变,保留 /think 与 /no_think 模式,仅权重不同。lm-eval 基准显示多数指标变化在 ±2 点内;ggsm8k strict-match 上升 42.0 点而 flexible-extract 下降 8.0 点,作者提示这是答案格式偏移,应视为混合结果。

    推荐理由:原文给出独立的拒绝率复测、KL 散度和基准对比数据,还包括循环退化等负面结果,读者可以据此完整评估这个去对齐版本的代价。

  18. Hugging Face · 新模型:uncensored46

    SmolLM3-3B-Heretic-Uncensored GGUF 量化版发布

    virtualdmns 的 SmolLM3-3B-Heretic-Uncensored(用 Heretic 移除拒绝行为的 SmolLM3-3B)现提供 GGUF 格式,含 Q8_0(约 3.28 GB)和 Q4_K_M(约 1.92 GB)两种量化,chat template 已嵌入文件并支持 /think 与 /no_think 模式。经 llama.cpp 加载测试可正常生成、无拒绝行为,源权重重新评测显示拒绝率 3/100(原版基线 82/100),KL 散度 0.0684。可通过 llama.cpp、LM Studio 或 Ollama 运行,采用 Apache-2.0 许可。

  19. Hugging Face · 新模型:uncensored56

    lyber-ai 发布 MiniMax-M3.1-Flash 无对齐版(NVFP4)

    Lyber AI × dealign.ai 基于 MiniMaxAI/MiniMax-M3.1-Flash 发布去拒绝行为版本,用 CRACK(跨 42 层信号加权 abliteration)在权重层面移除拒绝行为,保留扩展思考、reasoning-effort 分级、工具调用与原生 4M 上下文。权重为原生 MXFP8 + NVFP4 MoE 专家,与上游字节兼容,vLLM/SGLang 无需改码即可加载;MMLU 从 69.80% 降至 62.20%(−7.6pp,主要由 moral_scenarios 贡献),单轮与多轮合规测试均为 5/6,需约 264 GB 显存(1× B300 或 2× H100/H200 TP2 或 4× A100 TP4)。

    推荐理由:原文给出 CRACK 消融的具体层数、强度和 MMLU 前后对比,读者可据此判断去对齐的代价与保留能力。

  20. Hugging Face · 新模型:abliterated30

    huihui-ai 发布 Huihui-Qwen3.8-27B-abliterated:Qwen3.8-27B 去审查版本

    huihui-ai 基于 abliteration 技术推出 Qwen3.8-27B 的去审查版本 Huihui-Qwen3.8-27B-abliterated,无需 TransformerLens 即可移除模型拒答行为。最新更新仅对第 18 至 51 层做 abliterated 处理,其余层保持原样以保留更多原始性能,MTP 与视觉部分未修改。模型可在 Hugging Face 下载,也可通过最新版 ollama 以 `ollama run huihui_ai/Qwen3.8-abliterated` 直接运行。