跳到正文
  1. Hugging Face · 新模型:abliterated63

    dima6312 发布 Flint-40B-A2.5B 去对齐 NVFP4 GGUF 版本

    dima6312 在 Hugging Face 发布了 RecursiveSI Flint 40B-A2.5B 的 abliterated 版本 NVFP4 GGUF,移除拒绝方向,面向安全研究与编码工作,需 llama.cpp b11827 及以上在 NVIDIA Blackwell GPU 上运行,权重文件 22.9 GB。对照测试显示 MITRE 拒绝率从 22% 降至 0%,Meta CyberSecEval 拒绝检查从 18/100 降至 1/100,GSM8K 与 HumanEval+ 无显著下降,pp512 与 tg128 速度差异在 3% 以内;模型基于 Apache 2.0 许可衍生自 RecursiveSI 权重,去对齐只降低拒绝、不增加知识。

    推荐理由:发布附带了与原版 NVFP4 权重的对照拒绝率和性能数据,读者可以据此评估去对齐带来的质量损失幅度。

  1. Hugging Face · 新模型:abliterated76

    orcarouter 发布 DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化权重

    orcarouter 在 Hugging Face 发布 DeepSeek-V4.1-Flash-1017 去对齐(abliterated)版的 GGUF 量化权重,提供 Mix-256G(235.8 GB 内存占用)与 Mix-128G(114.0 GB)两种构建,基于 763B 参数 MoE 模型,含 197B 参数 Engram n-gram 表常驻 SSD。去对齐后 500 条有害提示拒绝率加权均值从 0.874 降至 0.074,过度拒绝从 0.069 降至 0.006,MMLU 保持 0.91 左右不变。

    推荐理由:原文给出实测 KLD、拒绝率与 MMLU 前后对比,读者可据此判断这个去对齐版本到底去掉了多少、能力是否保留。

  2. Hugging Face · 新模型:abliterated63

    Spark-X2.6-4B-Abliterated GGUF 发布,拒绝率从 43/44 降到 0/44

    alexwkleung 用 Heretic 对 XHToken/Spark-X2.6-4B(dense 4.1B 思考模型)做定向消融,发布 abliterated GGUF 权重,并用 llama.cpp 量化出 Q4_K_M 到 Q8_0 多档。与官方 Q8_0 对照:拒绝率从 43/44 降到 0/44(thinking 开与关均如此),GSM8K n=100 为 88/100 对 91/100,McNemar p=0.45 未检出数学回归;代价是思考开启时平均约 5k tokens(stock 529),部分超出 8192 预算,无拒绝系统提示可将其减半。

    推荐理由:原文给出与官方 Q8_0 逐位对照的拒绝率、GSM8K 和思考开销数据,可据此判断这个去对齐版本的实际代价。

  1. Hugging Face · 新模型:uncensored66

    FLUX 3 Image Klein 提示词扩展器无对齐版发布,英文拒绝率从 63% 降到 0%

    AtomicChat 基于 BFL 的 FLUX 3 Image Klein 提示词扩展器(9B Qwen3.5 微调)投影移除拒绝方向,发布 llama.cpp 可用的 GGUF 权重及 3MB LoRA 版本。作为聊天模型,held-out 提示词上英文拒绝率从 63% 降至 0%,俄语从 29% 降至 1%,MMLU 从 74.15% 微降至 73.95%,工具调用与长文本检索不受影响;作为 upsampler 时在 35 条敏感请求中比原版多保留 2 条内容,但 Klein 图像模型本身不画这两类,出图无可见去审查效果。

    推荐理由:原文给出了去对齐的具体做法和拒绝率、MMLU、出图差异的前后实测数据,还与同类去对齐 upsampler 做了对照,可按数据自行选量化档位。

  2. Hugging Face · 新模型:uncensored54

    LFM2.5-24B-A2B 无对齐 GGUF 量化版发布,拒绝率从 89/100 降到 0/100

    pottokao 在 Hugging Face 发布 LiquidAI/LFM2.5-24B-A2B 的去对齐 GGUF 量化版,用 Heretic ARA 去审查后拒绝率从 89/100 降到 0/100,BF16 权重上 KL 为 0.260。所有 attn_output 张量保持 Q8_0,去对齐修改集中在 blk.38.attn_output;IQ3_M 档可在 16 GB 显存单卡运行,模型回答前会先思考,需留较大输出预算。

    推荐理由:作者给出了用 Heretic ARA 去对齐前后的拒绝率对比和 KL 数值,并说明各量化档的显存取舍。

  3. Hugging Face · 新模型:abliterated54

    Ternary-Bonsai-2-27B 无对齐 GGUF 发布,MTP 头重量化后可跑进 8GB 显存

    作者发布 Ternary-Bonsai-2-27B-Abliterated-PQ2_0-MTP-Q4_0-GGUF,在 Hikari07jp 的 abliterated 构建基础上把 MTP 草稿头从 Q8_0(430.41 MiB)重量化为 Q4_0(227.91 MiB),使组合能在 8GB 显卡上运行,实测 RTX 3070 上 45.7 tok/s、7 724 MiB 显存。主干与 abliterated 构建逐位一致,仅 blk.64.* 不同;因 MTP 头只是草稿、输出由主模型验证,困惑度 8.4593 与无头版本 8.4557 在测量误差内,200 个贪心 token 零分歧。

    推荐理由:作者给出逐字节校验和 RTX 3070 8GB 实测数据,说明把 MTP 头降到 Q4_0 后为何不损失输出质量。

  1. Hugging Face · 新模型:uncensored67

    candor-lab 发布 K2-Horizon-7B 去对齐版 GGUF,拒绝率从 287 降至 3

    candor-lab 用自研权重编辑工具 Candor 移除了 IFM 的 K2-Horizon-7B 的拒绝行为,以单个 Q4_K_M GGUF(5.59 GB)发布在 Hugging Face,Apache 2.0 协议。288 个 StrongREJECT 有害提示的拒绝数从原版 287 降到 3,300 个 Alpaca 无害提示拒绝数从 2 降到 0,KL 散度 0.052,GSM8K 正确数 1222 对 1209,均在噪声范围内。编辑为 rank-3 修改,覆盖 61 个输出矩阵;搜索的 313 次试验和最终评测均在 llama.cpp 中开启 thinking、reasoning effort high 下完成,前两名候选曾因数学成绩下降或思考预算耗尽被淘汰。

    推荐理由:原文给出拒绝率、KL 散度和 GSM8K 的前后对照数据,读者可以据此判断这次权重编辑到底去掉了什么、损失了多少。

  1. Hugging Face · 新模型:uncensored68

    candor-lab 发布 Llama 3.2 3B Instruct 去对齐 GGUF 版

    candor-lab 在 Hugging Face 发布 Llama 3.2 3B Instruct 的去对齐版本,通过 Candor 权重编辑工具对注意力和 MLP 输出矩阵做 rank-1 修改,移除模型拒绝指令的方向。实测显示该文件对 288 个有害提示词只拒绝 6 个,而普通 Q4_K_M 量化版拒绝 161 个;团队指出该权重此前经过 4-bit 量化,再次量化会损失 30-45% 的编辑效果,因此将 49 个被编辑矩阵保留在 Q8_0。测量基于 StrongREJECT、Alpaca 提示词与 GSM8K,在 llama.cpp llama-server 中以实际发布文件进行,结果与 heretic 的最佳试验无统计显著差异。

    推荐理由:发布方实测了量化后文件的拒绝率与 KL 散度,指出先量化后去对齐会让编辑效果损失三到四成。

  1. Hugging Face · 新模型:abliterated70

    MorinoNushi 发布 GLM-5.3-Flash Heretic 消融 LoRA V3,拒绝率降至 10%

    MorinoNushi 发布 GLM-5.3-Flash(320B 总参/18B 激活 MoE,MIT 协议)的去对齐 LoRA 适配器 V3,用 heretic-gguf 对量化 GGUF 权重做 Optuna 优化的方向性消融。有害提示拒绝率从 V2 的 35/140 降至 14/140(10.00%),KL 0.2380 也低于 V2 的 0.3030;适配器约 86 MB,无需改动或重新量化约 160 GB 基座权重,可直接在主线 llama.cpp 上以 --lora 方式加载,不再需要 fork 或补丁。

    推荐理由:原文给出消融方法、拒绝率与 KL 前后对比数据,读者可以据此判断 V3 相对 V2 实际去掉了多少拒绝行为。

  1. Hugging Face · 趋势模型52

    LiquidAI 发布 LFM2.5-24B-A2B 的 GGUF 量化版本

    LiquidAI 在 Hugging Face 上发布 LFM2.5-24B-A2B 的 GGUF 量化版本,该系列是面向边缘 AI 与端侧部署的混合架构模型。仓库中的 Q4_0 版本是量化感知蒸馏(QAD)checkpoint,训练用于恢复 Q4_0 量化损失的精度;各 GGUF 内置 general.sampling.* 元数据,llama.cpp 默认应用推荐采样参数(--temp 0.1 --top-k 50 --repeat-penalty 1.05)。

    推荐理由:官方说明 Q4_0 版本采用量化感知蒸馏来恢复精度损失,并给出 llama.cpp 的推荐采样参数,便于本地部署复现。

  1. Hugging Face · 新模型:abliterated75

    Kujira 发布 Underdog Saluki 27B 1.0 MTP 去拒答 GGUF 版

    Kujira 在 Hugging Face 发布 Underdog-Saluki-27B-1.0-MTP 的 abliterated GGUF 版,仅改动第 35–36 层的 4 个张量,其余 862 个张量与原文件字节级一致,未做训练。有害提示词拒绝率从 99% 降到 1%(开思考时 78% 到 2%),英语困惑度上升 1.6%、日语上升 1.8%,速度和显存与 MTP 版相同,约 58–62 tok/s,12 GB 显卡可用 40K 上下文。消融方法未公开。

    推荐理由:原文列出消融改动的具体张量、拒绝率前后对比和困惑度变化,读者可以评估这个去对齐版本的代价。

  1. Hugging Face · 新模型:abliterated76

    Blackfrost 发布 Qwen3.8-27B-ABLITERATED GGUF 量化版,残留拒绝率2.4%

    Blackfrost 发布了 Qwen3.8-27B 的 abliterated 版本 GGUF 量化包,权重级降低拒绝行为,附完整 K-quant 阶梯(Q2_K 至 Q8_0)和视觉投影文件。450例拒绝基准(150 AdvBench、150 StrongREJECT、150 XSTest)经人工复核后残留11例真拒绝,占2.4%;W4A4 NVFP4 衍生版的 WikiText-2 词困惑度为9.3677,上游 BF16 为8.4764。每个主量化内嵌 MTP 投机头,可单文件在 llama.cpp 运行;可选 BF16 DFlash2 sidecar 在 RTX PRO 6000 上配 Q4_K_M 达到109.31 tok/s 中位解码速度,需固定实验性 llama.cpp 实现。

    推荐理由:原文给出450例拒绝基准的分阶段残留数据和量化档位清单,读者可据此判断该去对齐版本的拒绝率与部署成本。

  1. Hugging Face · 新模型:abliterated60

    Methane 发布 Qwen3.8-Flash-Next 去对齐版 GSQ-RCO 量化 GGUF 模型

    Methane 在 Hugging Face 发布 Qwen3.8-Flash-Next 的去对齐版 GSQ-RCO 量化 GGUF 模型,保留 1,078 个 ISTA 张量,并对来自 windowsxp811203 去对齐检查点的 146 个 BF16 张量重新量化。实测生成速度约 31 tok/s,比未改动的 ISTA IQ3_XXS 快约 31%,下载体积大 9.6%;MMLU 82.68%、GSM8K 86.72%、strict IFEval 85.16%、raw HumanEval 66.46%,除编码外三任务平均变化 −0.66 个百分点,等质量尚未证实。

    推荐理由:作者给出了与原 ISTA 量化的速度和四项基准对比数据,读者可据此评估这个去对齐量化版本的实际代价。

  1. Hugging Face · 新模型:uncensored57

    Gemma-4-Queen-31B-it 发布 Heretic 去对齐 LoRA 适配器(GGUF)

    SaturnHeaven 发布 Gemma-4-Queen-31B-it 的 rank-64 abliteration LoRA 适配器 GGUF 版,基于 Heretic v1.2.0 的 ARA 方法对 attn.o_proj 的去对齐差值做 SVD 截断近似,用于角色扮演和创意写作时减少拒绝和免责声明。

    推荐理由:作者给出了 rank-64 近似的重构保真度指标和源模型拒绝率对比,读者可据此判断这个 LoRA 适配器去对齐的可靠程度。

  2. Hugging Face · 新模型:uncensored66

    HauhauCS 发布 Qwen3.8-27B 无对齐 Aggressive GGUF 量化版

    HauhauCS 在 Hugging Face 发布 Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF,实测拒绝率 0/465,主打直接回答、无拒绝行为和最少前导语。

    推荐理由:原文给出 0/465 拒绝率实测和各量化的 FastMTP 加速数据,读者可据此判断这个 Aggressive 去对齐版本的实际表现。

  3. Hugging Face · 新模型:uncensored68

    spiritfather 发布 MiMo-V2.6-Flash-MOPD-Yamz-Uncensored GGUF 量化版

    spiritfather 发布 MiMo-V2.6-Flash-MOPD-Yamz-Uncensored 的 GGUF 量化版,把 yamz-labs 的运行时去审查编辑直接烘焙进权重,使其在任意 llama.cpp 运行时无需特殊引擎即可生效。

    推荐理由:原文给出了拒绝率前后对比和量化损失数据,读者可以据此判断这个去对齐版本到底去掉了多少、代价多大。

  4. Hugging Face · 新模型:abliterated62

    Swift 1.5 Qwen3.8-Flash-Next GSQ-RCO 消融版 IQ3_S GGUF 量化发布

    slider-meister-pub 在 Hugging Face 发布 Swift-1.5-Qwen3.8-Flash-Next-GSQ-RCO-abliterated 的 IQ3_S GGUF 量化,总大小 83.74 GB(约 3.79 bpw),补上上游缺失的 IQ3_S 档位。

    推荐理由:原文给出量化构建细节和消融前后拒绝率对比,硬拒绝从98/100降到0,读者可据此评估这个低比特去对齐版本。

  1. Hugging Face · 新模型:abliterated69

    shefowl 发布 Qwen3.8-Flash-Next 混合精度 GGUF 量化版

    shefowl 发布了 Qwen3.8-Flash-Next 的混合精度 GGUF,非专家张量取自 SC117 的 IQ3_XXS 档、路由专家张量取自 Q2_0 档,逐字节复制未重新量化,权重为上游已去拒绝的 abliterated 版本。

    推荐理由:作者给出了与 IQ3_XXS 和 Q2_0 档在困惑度、解码速度和内存占用上的实测对比,可据此权衡这套混合量化的取舍。

  2. Hugging Face · 趋势模型83

    ISTA-DASLab 发布 Qwen3.8-27B 的 GSQ-RCO 非均匀量化 GGUF 权重

    ISTA-DASLab 发布 Qwen3.8-27B 的 GSQ-RCO 非均匀量化 GGUF 权重,提供 2.50 至 3.50 bpw 四个档位及 BF16 视觉投影器。

    推荐理由:仓库给出各量化档位与 Unsloth Dynamic 的完整基准对比,并附可审计的逐张量分配文件,读者可据此评估是否采用。

  3. Hugging Face · 趋势模型78

    Prism ML 发布 Ternary-Bonsai-2-27B 三值量化 GGUF 模型

    Prism ML 在 Hugging Face 发布 Ternary-Bonsai-2-27B-gguf,将 Qwen3.8-27B 转为三值权重(1.72 bits/weight),语言模型体积从约 54 GB FP16 降至 5.95 GB(PTQ1_0)或 7.21 GB(PQ2_0)。

    推荐理由:原文给出三值权重格式、14 项基准对比和跨平台吞吐数据,读者可以据此评估 1.72 bits/weight 量化在本地部署中的实际取舍。