跳到正文
  1. Hugging Face · 新模型:abliterated60

    KaedeTai 发布 occamy-1.0-abliterated 的 MLX 4-bit 量化版并移植 MTP 草稿头

    KaedeTai 将 SC117 制作的 abliterated 版 Occamy-1.0 从 BF16 GGUF 反向转回 HF 布局并量化为 MLX 4-bit,约 20 GB。仓库装回 Accio-Lab 原版的 vision tower,并从 KaedeTai/Ornith-1.5-35B-A3B-BigBang-MTP-zh-mlx-4bit 原样移植 MTP 草稿头;该头在 Occamy 上草稿接受率达 65.6%(每周期 2.13 个 token),高于其原本干的 Ornith 主干的 64.9%。作者用逐张量逆变换脚本还原 llama.cpp 转换改动,42 个对照张量中 40 个与未去对齐基座逐位一致,其余两个正是消融所改的矩阵。

    推荐理由:作者给出了逐张量校验和同机对照的 TMMLU+ 分数,可以核对这套 GGUF 转 MLX 加移植 MTP 头的转换质量与速度收益。

  1. Hugging Face · 新模型:abliterated58

    Qwen3.8-Flash-Next GSQ-RCO 量化包发布,附运行时去拒绝向量与实测数据

    作者发布了一个 Strata 运行时去拒绝方案包,收录 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四档 GSQ-RCO 量化权重(逐字节复制并校验 SHA256),外加一个 480 KB 的拒绝方向向量文件,来自 Huihui 对 144 个残差写入张量的秩一编辑,在推理时对每层残差流做投影 h = h - (h·r)r 以移除拒绝行为。

    推荐理由:作者用拒绝率、KL 散度和解码速度实测了运行时去拒绝向量的效果,数据可直接用于判断这种方案对输出的改动幅度。

  1. Hugging Face · 新模型:uncensored68

    Qwen3.8-27B OrcaRouter Uncensored 的 GGUF 与 NInfer 量化版发布,适配 16 GB 显存

    codavidgarcia 发布 orcarouter/Qwen3.8-27B-Uncensored 的 GGUF 与 NInfer 量化文件,让模型连同原生 MTP 头在 16 GB 显存内运行。该去对齐版本在 abliterlitics 的 12 个变体对比中以 82% 的有害提示服从率排第一,各能力基准与原模型差距在 ±1.3 分内;作者在单张 RTX 4080 16 GB 上实测了各文件的 KLD、速度与 llama.cpp/NInfer 运行命令,许可证为 Apache-2.0。

    推荐理由:原文给出拒绝率、KLD 与 RTX 4080 实测速度数据,可据此判断该去对齐量化版的损失与 16 GB 可用性。

  2. Hugging Face · 新模型:uncensored52

    Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced GGUF 量化镜像发布

    grainrigi 在 Hugging Face 镜像了 HauhauCS 的 Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced GGUF 量化版,作为备份保留 Q8_K_P 与 f16 mmproj。原版基于 google/gemma-4-26B-A4B-it,总参数 25.2B、激活约 3.8B(128 专家取 top-8 加 1 共享专家),256K 原生上下文、原生多模态;经自动化与人工拒绝基准测试为 0/465 拒绝,少量边缘提示首次会回避但重问即答。

    推荐理由:原文给出 0/465 拒绝率的自动化与人工实测数据,以及各量化档位大小和推荐配置,便于按显存选档。

  1. Hugging Face · 新模型:uncensored78

    AtomicChat 发布 FLUX 3 Image Klein 提示词扩展器无拒绝 GGUF 版

    AtomicChat 放出 BFL 的 FLUX 3 Image Klein 提示词扩展器去拒绝版本,通过投影移除拒绝方向,以 GGUF 和 3MB LoRA 两种形式提供。作为对话模型,英语拒绝率从 63% 降到 0%,俄语从 29% 降到 1%,MMLU 仅从 74.15% 降到 73.95%;在 Klein 文生图管线中未观察到去审查效果,因原始图像模型本身已能画出敏感类别。

    推荐理由:发布方给出拒绝率、MMLU 和量化损失的完整实测数据,读者可据此判断这个去对齐版本的实际代价。

  2. Hugging Face · 新模型:uncensored54

    LFM2.5-24B-A2B 无对齐 GGUF 量化版发布,拒绝率从 89/100 降到 0/100

    pottokao 在 Hugging Face 发布 LiquidAI/LFM2.5-24B-A2B 的去对齐 GGUF 量化版,用 Heretic ARA 去审查后拒绝率从 89/100 降到 0/100,BF16 权重上 KL 为 0.260。所有 attn_output 张量保持 Q8_0,去对齐修改集中在 blk.38.attn_output;IQ3_M 档可在 16 GB 显存单卡运行,模型回答前会先思考,需留较大输出预算。

    推荐理由:作者给出了用 Heretic ARA 去对齐前后的拒绝率对比和 KL 数值,并说明各量化档的显存取舍。

  1. Hugging Face · 新模型:uncensored68

    DeepSeek-V4.1-Flash-1017 无对齐版发布,附 4× DGX Spark 部署与评测数据

    neko-legends 发布 DeepSeek-V4.1-Flash-1017 的无对齐 EXL3 2.9bpw 打包,基于 dealignai 的 abliterated 版本,将 54 个稠密 BF16 矩阵重编码为 EXL3 trellis 以适配 TensorFold Zig TP4 引擎,可在 4× NVIDIA DGX Spark 上运行。评测显示去对齐代价集中在道德判断,moral_scenarios 从 95.5% 降至 40.9%,而 HumanEval chat 成绩 92.68% 反高于官方版;另提供 3.5bpw 兄弟版本,moral_scenarios 略高但解码慢约 10%。

    推荐理由:原文给出 MMLU 与 HumanEval 的前后对照,显示去对齐的代价集中在道德判断而非知识或编码能力。

  1. Hugging Face · 新模型:uncensored54

    MiMo-V2.6-Pro 无对齐版量化权重发布,适配 Maya 引擎本地部署

    nofacedfl 发布基于 Xiaomi 约 1 万亿参数 MiMo-V2.6-Pro 的 abliterated "heretic" 基座的约 2-bit 量化版(300 GB,GGUF 分片),适配 Maya 引擎并带独立视觉塔,MIT 许可。实测在 5× RTX 4090 48 GB + 2× A100 40 GB 上代码生成 71–75 tok/s、200K 上下文 38–40 tok/s,支持 512K 上下文与约 1.6 秒的图像输入;abliterated 基座在该量化下 40 道 JailbreakBench 请求仍拒答 24 题,运行时拒绝向量可将拒答降到 1–5/40 但会增加编造答案,暂未随包发布。

    推荐理由:原文给出拒绝率实测数据,abliterated 基座经量化后 40 题仍拒答 24 题,读者可据此判断去对齐的实际程度。

  2. Hugging Face · 新模型:abliterated57

    junmo-k 发布 GLM-5.3-Flash-FP4 去对齐版 MLX 重打包

    junmo-k 在 Hugging Face 发布 Piecrust/GLM-5.3-Flash-FP4-Abliterated 的 MLX 重打包,基于 NVIDIA 的 NVFP4 量化版 GLM-5.3-Flash(320B 总参数、约 18B 激活),对第 15-36 层的 44 个矩阵施加 rank-1 拒绝方向编辑。在 Apple M5 Ultra 256GB 上实测,去对齐编辑相对未编辑版本 NLL 高 0.46%,解码慢 12-24%,峰值内存多约 13GB;相对作者自己的 158GiB JK v4 版 NLL 低 1.47%。加载需 14 行 oMLX 补丁以支持每专家 weight_scale_2。

    推荐理由:作者给出消融方法细节和与未编辑版本的 NLL、速度、内存对照数据,可据此评估这次去对齐编辑的实际代价。

  3. Hugging Face · 新模型:uncensored68

    IndrasMirror 发布 DeepSeek-V4.1-Flash-1017 的 XQ 混合精度去对齐量化版

    IndrasMirror 发布 DeepSeek-V4.1-Flash-1017 的 XQ 混合精度量化版,552B 参数 MoE 压缩到 152 GB,可在 RTX 4090(24 GB)加 90 GB 内存的家用 PC 上运行,需配合自研 Xolotl 引擎而非 llama.cpp/Ollama。模型带 rank-2 拒绝方向编辑(manifest id adea0515bbf69a0b),拒绝探针显示 chat 模式 0/100、think 模式 0/50 拒绝;8K 预填充 239.8 tok/s,解码 12–13 tok/s。短 Gauntlet 测试 2/5,比作者此前 V4.1 v2 量化版(4/5)有回退,原因尚未定位;校准后重做的 V3 版本正在上传。

    推荐理由:作者给出了拒绝探针、困惑度和速度的实测数据,还说明了量化分配与拒绝方向编辑的具体做法,可据此评估这个本地化版本。

  1. Hugging Face · 新模型:uncensored67

    GLM-5.3 Uncensored Maya 量化版发布:753B MoE 压缩至约 2.5 bit 并移除拒绝行为

    nofacedfl 在 Hugging Face 发布 GLM-5.3 Uncensored Maya 量化包,将 Z.AI 的 753B MoE 模型用 GPTQ 压到约 2.5 bit,配合 Project Maya 的 GLM-5.3 移植版引擎运行。在 7 张 GPU(5× RTX 4090 48 GB + 2× A100 40 GB)上达 43–57 tokens/s,支持 512K 上下文,JailbreakBench 拒绝率从原版 39/40 降到 2/40,其中量化后为 6/40,再通过 78 层×3 方向的拒绝向量在运行时投影移除降至 2/40;对 FP8 的 KL 为 0.204、top-1 一致率 88.4%。

    推荐理由:原文给出完整的去对齐实现路径和 JailbreakBench 拒绝率前后对比,还附量化精度损失数据,可复现可核查。

  2. Hugging Face · 新模型:abliterated74

    Qwen3.8-27B 去拒绝消融版 GGUF 量化发布,附各档量化实测对比

    vedevpatel 发布 rajaykumar12959/qwen3.8-27b-abliterated 的 imatrix GGUF 量化,该模型移除了拒绝行为,可回答原版 Qwen3.8 拒答的请求,目标在 16 GB 显存上用 llama.cpp 运行。每个量化均与 BF16 原版对比:MMLU-Pro(4200 题、5-shot、thinking off)差异均在 95% 置信区间内不显著,BF16 为 79.60%;WikiText-2 KL 散度显示 IQ3_M 漂移比 4-bit 量化高 3.3–3.8 倍。

    推荐理由:作者对每个量化版本都给出了与 BF16 原版的 MMLU-Pro 和 KL 散度对比,还实测了 16 GB 显存下的上下文与速度表现。

  1. Hugging Face · 新模型:abliterated52

    Qwen3.8-Flash-Next 去拒绝向量 GGUF 套件发布并附 RTX 3090 实测

    Hanselor 发布 Qwen3.8-Flash-Next 的 abliterated Strata GGUF 套件,打包 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四种 GSQ-RCO 量化权重,并新增一个 480 KB 的拒绝方向文件,由 Strata 在运行时投影去除拒绝行为,权重本身保持原样。单张 RTX 3090 实测显示该向量开启后 10 条提示拒绝从 9-10 降到 0,IQ3_S 的 KL 到 BF16 为 0.0738,IQ2_XS 在 131K 提示下解码约 80 tokens/s;agent 编码任务 5/5 通过。作者提醒移除拒绝会移除安全行为,输出由使用者自行负责。

    推荐理由:作者给出了拒绝率、KL 与解码速度的实测数据,可以据此判断运行时去拒绝方向对量化模型的实际改动有多大。

  2. Hugging Face · 新模型:uncensored74

    LFM2.5-24B-A2B 去对齐版发布:英文拒绝率从 96.3% 降到 1.2%

    AtomicChat 基于 Liquid AI 的 LFM2.5-24B-A2B 发布去除拒绝行为的去对齐版本,英文拒绝率从 96.3% 降至 1.2%,俄语从 62% 降至 0%。方法为沿单一方向编辑 blocks 14-39 的 52 个矩阵,MMLU 基本不变(64.40%→65.55%),提供 6 个 GGUF 量化版和一个 24 MB LoRA 适配器,可对现有量化权重用 --lora-scaled 加载。

    推荐理由:原文给出完整的拒绝率前后对比、MMLU 变化和编辑方法细节,读者可以据此判断这个去对齐版本去掉多少、损伤多少。

  3. Hugging Face · 新模型:uncensored74

    AtomicChat 发布 MiniCPM-V 4.7 35B-A3B 无拒绝 GGUF 版

    AtomicChat 将 OpenBMB MiniCPM-V 4.7 35B-A3B 的一个拒绝方向从原权重中投影消除,提供三种内置 GGUF 量化版本和一个 106 MB LoRA 适配器。在 held-out 提示上,英文拒绝率从 96.3% 降至 0%,俄语从 70% 降至 0%,MMLU 仅变化 0.25 分;20.1 GB 版本与原模型 top-1 一致率 94.5%。方法基于 Arditi et al. 2024 的单方向拒绝机制研究。

    推荐理由:发布附上完整的消融方法与held-out测试数据,拒绝率、MMLU、KLD等前后对比都可复核,适合想自己动手去对齐的人参考。

  4. Hugging Face · 新模型:uncensored68

    Launch80 发布 Swift-1.5-Qwen3.8-27B 全 INT4 无对齐烘焙版

    Launch80 在 Hugging Face 发布 Swift-1.5-Qwen3.8-27B-Uncensored-Int4-baked,将上游 ajgazin 的拒绝方向消融权重整体量化为 GPTQ INT4,lm_head 与 MTP draft 也压到 INT4,单卡 Intel Arc Pro B65 32 GB 可用原版 vLLM 服务 262,144 token 上下文。

    推荐理由:原文给出拒绝率实测、困惑度与逐张量相对误差对比,读者可据此核验这个 INT4 去对齐版本的量化质量与解码速度。

  1. Hugging Face · 新模型:uncensored66

    CCSSNE 发布 HauhauCS 去对齐版 Gemma4-31B QAT GGUF,附 MTP 投机解码加速

    CCSSNE 在 Hugging Face 发布基于官方 QAT 权重的 HauhauCS 去对齐版 Gemma4-31B,实测 0/465 拒绝,数据集和能力不变。提供 Q4_K_M 主模型(18.7 GB)、mmproj 视觉文件(1.2 GB)和来自 Unsloth 的 MTP 投机解码头(280 MB),经 llama.cpp 测试生成速度约快 53% 且输出一致;支持 256K 上下文与图像输入,兼容 llama.cpp、LM Studio、Jan、koboldcpp 等 GGUF 运行时。

    推荐理由:原文给出拒绝率实测结果和 llama.cpp 部署命令,还说明 QAT 4-bit 量化选型理由,可作为去对齐模型的参考样本。

  2. Hugging Face · 新模型:uncensored69

    DeepSeek-V4.1-Flash 无对齐版 GGUF 量化发布,支持 CPU 推理 1M 上下文

    Adolphsson 发布 DeepSeek-V4.1-Flash-UNCENSORED 的 GGUF 量化版本,基于 dealignai 对 deepseek-ai/DeepSeek-V4.1-Flash(552B MoE,1M 上下文)的权重级 abliteration 结果转换。提供 Q8_0(508 GB)、Q4_K_M(449 GB)、Q3_K_M(374 GB)三种量化及 BF16 视觉 projector,Q4/Q3 为从 Q8 两步 requant,敏感层用 Q5/Q6/Q8;模型推理电路已按 OrcaSAQ 风格做敏感度感知量化,完整 1M 上下文(KV 约 890 bytes/token)。

    推荐理由:不只放出去对齐权重,还给出逐量化的拒绝率与 NIAH 实测和 CPU 部署配方,读者可据此评估质量损失。

  3. Hugging Face · 新模型:abliterated72

    GLM-5.3-Flash-abliterated-Maya-M-GGUF 发布:运行时移除拒绝的量化模型与引擎补丁

    alesha-pro 发布 GLM-5.3-Flash-abliterated-Maya-M-GGUF,基于 Project Maya 的 Maya-M 量化,附带 2.2 MB 拒绝方向向量和 Maya 引擎补丁,可在推理时逐层移除拒绝。在 4x RTX 3090 上开启向量后 256K 上下文解码 56 tokens/s;178 条 AdvBench 与 JailbreakBench 请求中仅 2 条仍拒绝(自杀与自残相关),未开启向量的 EXL3 2.05 bpw 量化上原模型拒绝 144/146,开启后 438 条回答 0 拒绝。

    推荐理由:作者给出拒绝向量构造方法与178条请求的拒绝率前后对比,并附KLD数据,读者可自行判断去对齐幅度。

  4. Hugging Face · 新模型:abliterated75

    Qwen3.8-Flash-Next abliterated 版以 fngine 单卡包形式发布

    satellitedown 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 abliterated fngine 单 GPU 推理包,迁移 huihui-ai 的消融结果,48 层单拒绝方向拟合最小余弦 0.9999985。在 RTX 5090 上对 32 个轻度提示词,未消融版拒答 8 个、该包 0 个,数学、Python 与知识测试两版得分相同,速度无可测差异。pack 约 89 GiB,要求 sm_120a GPU、约 60 GB 主机内存,提供 OpenAI 兼容接口与 256K 上下文。

    推荐理由:给出了 abliteration 的迁移方法、消融方向拟合与拒绝率前后对照,可复核的去对齐发布。