跳到正文
  1. Hugging Face · 新模型:uncensored60

    XTer123 发布 Nanbeige4.3-33B-Uncensored GGUF 去对齐版本

    XTer123 基于 Heretic 的拒绝方向消融方法,将 Nanbeige4.3-33B 去对齐并量化为 Q5_K_M GGUF,无微调与新训练数据,104 个可消融矩阵中仅改 59 个,抽查张量与基座逐位一致。在其 100 条提示词测试集上,基座模型拒绝 98 次,该版本拒绝 26 次,KL 散度为 0.0224;聊天模板未改动,支持 262144 token 上下文配 4-bit KV cache,附带 rank-3 delta adapter 可重建权重,License 为 Apache-2.0。

    推荐理由:原文给出拒绝方向消融方法与 98 比 26 的拒绝率对比和 KL 散度数据,可据此判断这个去对齐版本改动幅度。

  2. Hugging Face · 新模型:abliterated64

    R0U5 发布 Qwen2.5-1.5B-Abliterated(Lethe)去拒绝版本

    R0U5 在 Hugging Face 发布基于 Qwen2.5-1.5B-Instruct 的 abliterated 版本,用 Lethe 方法从对比激活中计算拒绝方向并从残差写入权重矩阵(含嵌入矩阵)中正交化移除。模型转为 GGUF 后在 llama.cpp 实际服务环境验证,20 条 held-out 拒绝诱导提示的拒绝数从 17/20 降到 0/20,连贯性检查通过;并指出自评同源采样和把退化输出计为合规两种假完美陷阱。提供 Q8_0(1.65 GB)与 f16(3.09 GB)权重,经 YaRN 扩展至 65,536 token 上下文,作者明确说明消融只改变拒绝行为、不增加能力。

    推荐理由:原文给出 Lethe 消融方法、llama.cpp 实测拒绝率从 17/20 降到 0/20,还说明了两个易被忽视的评测陷阱。

  3. Hugging Face · 新模型:abliterated64

    gemma4-12b-it-abliterated 发布:从 Gemma 4 12B 权重中移除拒绝方向

    pasangimhana 发布 gemma4-12b-it-abliterated,基于 google/gemma-4-12B-it 做权重编辑,将拒绝方向从残差写入中正交化移除,无训练无微调,bf16 单文件 23.9 GB,共修改 97 个张量。大基准(769 条有害提示)上有害拒绝率从 454 降到 6,comply 从 32% 升至 91%,良性提示退化输出率与基座相同(9/92);方法上在每层捕获 150 有害与 150 无害提示的残差求方向,采用以第 24、28 层为中心、sigma 6 的宽高斯带正交化,并强调嵌入编辑不可省略。使用时需将 <turn|>(token 106)设为停止符;模型无任何安全过滤,作者提醒不要无外部策略层直接公开部署,且未跑 MMLU、GSM8K 等能力基准。

    推荐理由:原文给出消融方法、拒绝率前后对比和退化输出对照,读者可据此判断这次权重编辑去掉了多少拒绝行为、代价多大。

  4. Hugging Face · 新模型:uncensored60

    dealignai 发布 Nanbeige4.3-33B 的 UNCENSORED GGUF 量化版本

    dealignai 在 Hugging Face 发布 Nanbeige4.3-33B 的 UNCensored GGUF 版本,移除基础模型的拒绝行为,提供 Q6_K(25.3 GB)、Q4_K_M(18.7 GB)、IQ2_XXS(8.7 GB)三种量化,均附带基于 1M token 校准内容的 imatrix,保留原生 think on/off 与 512K 上下文。与同量化基础版对比,MMLU chat 下降 Q6_K −1.74pp、Q4_K_M −1.09pp、IQ2_XXS −4.53pp;6 提示多轮合规测试三个量化均为 6/6 通过、0 次拒绝。

    推荐理由:原文给出三种量化的 MMLU 前后对照和多轮拒绝率实测,读者可据此评估去掉拒绝行为的能力代价。

  5. Hugging Face · 新模型:abliterated58

    Nanbeige4.3-33B 网络安全去对齐 GGUF 版发布,拒绝率从 80% 降到 8%

    FRENCHFAKER 发布首个 abliterated 版 Nanbeige4.3-33B GGUF,用 refusal-direction ablation 移除原始模型对进攻性安全请求的拒绝行为。50 条有害提示词基准上拒绝率从 80%(40/50)降至 8%(4/50),安全/渗透测试类提示词拒绝率约 0%,推理与工具调用保持完整;IQ4_XS 量化约 17 GB,可在单张 24 GB GPU 上以约 33 tok/s 运行,基于 Apache-2.0 许可。

    推荐理由:原文给出拒绝率前后对照和逐层消融方法,读者可据此评估这个去对齐版本的可靠程度。

  6. Hugging Face · 新模型:uncensored56

    Qwen3.8-Flash-Next-Uncensored 2-bit MLX 量化版发布,附 DFlash2 加速与 M1 Max 实测

    3hs4n 发布 Qwen3.8-Flash-Next-Uncensored 的 MLX 优化量化版,目标模型采用 affine 2-bit/group-128 重建,搭配 Inco AI 的 BF16 DFlash2 草稿模型,完整下载 74.048 GB。在 M1 Max 64 GiB 实测中,代码与数学 warm 解码达 37.62 和 33.69 tokens/s,约为基线的 1.70× 和 1.56×,文本仅 1.048×;固定 50 题 GSM8K 子集全部答对且与原生参考一致,进程峰值内存 42.12 GiB。

    推荐理由:作者实测了 M1 Max 上代码与数学解码的加速倍数和内存峰值,并给出 32/48/64 GiB 的可行性判断,便于评估本地部署。

  1. GitHub · 3D 生成新仓库59

    NeurIPS 2026 论文揭示上下文压缩中的 LLM 规模悖论,开源诊断数据集与提示词

    清华、百度等机构在 NeurIPS 2026 发表 When Less Is More,发现 compressor-decoder 有损压缩中的 Size-Fidelity 悖论,覆盖 27 组配置(9 个模型规模 × 3 种压缩率):更大压缩器重构误差更低但忠实度下降,中型压缩器常优于大模型。论文归因于知识覆写(如白色草莓被改写为红色草莓)与语义漂移(如 Alice hit Bob 被改写为 Bob hit Alice),64× 压缩下 LLaMA 从 3B 扩到 90B 时知识覆写 QA 从 0.62 降至 0.53、语义漂移 QA 从 0.41 降至 0.28。

    推荐理由:论文用 27 组压缩器配置给出压缩保真度非随规模单调的证据,并公开了诊断数据集与 QA 生成提示词,方法可复用于其他压缩评测。

  2. Hugging Face · 新模型:abliterated68

    Qwen3.8-Flash-Next-FP4-Local-Abliterated 发布:不改权重、推理时去对齐

    lesj0610 发布基于 nvidia/Qwen3.8-Flash-Next-FP4-Local 的 abliterated 版本,权重文件与基座逐字节一致,仅靠 config.json 中的 abliteration_config 块和 fp4local-abliterated vLLM 插件在推理时做拒绝方向投影。625 条有害提示的拒绝短语命中从基座 97.92% 降到 0.16%,MMLU 较基座低 1.30 分,GSM8K 无显著变化;需 vLLM 0.32.1rc0 以上版本,拒绝行为仅在英文下测试,视频能力未评测。

    推荐理由:原文给出拒绝率、MMLU/GSM8K 与基座的对照数据,并解释了为什么对 FP4 量化权重选择推理时投影而非直接改权重。

  3. Hugging Face · 新模型:abliterated58

    Qwen3.8-Flash-Next GSQ-RCO 量化包发布,附运行时去拒绝向量与实测数据

    作者发布了一个 Strata 运行时去拒绝方案包,收录 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四档 GSQ-RCO 量化权重(逐字节复制并校验 SHA256),外加一个 480 KB 的拒绝方向向量文件,来自 Huihui 对 144 个残差写入张量的秩一编辑,在推理时对每层残差流做投影 h = h - (h·r)r 以移除拒绝行为。

    推荐理由:作者用拒绝率、KL 散度和解码速度实测了运行时去拒绝向量的效果,数据可直接用于判断这种方案对输出的改动幅度。

  4. Hugging Face · 新模型:abliterated74

    RecursiveSI Flint 40B-A2.5B 去对齐版发布,MITRE 拒绝率从 15% 降至 0%

    RecursiveSI 的 Flint 40B-A2.5B 去对齐版本发布,用 abliterix 从 attention、共享与路由专家投影中移除拒绝方向,Optuna 在 100 条 MITRE 提示词上选强度。保留的 MITRE 拒绝率从 15% 降至 0%(n=100,Q8_0),无害提示词 KL 散度 0.0146 nats/token,HumanEval+、MBPP+、GSM8K、MMLU-Pro、CyberMetric、WMDP-cyber 无显著下降,pp512/tg128 速度变化在 3% 以内。

    推荐理由:原文给出消融方法与拒绝率前后对照,MITRE 拒绝从 15% 降到 0% 且各基准无显著下降,便于评估该去对齐版本的取舍。

  5. Hugging Face · 新模型:uncensored66

    SmolLM3-3B 的 Heretic 去对齐版本发布,拒绝率从 82 降到 3

    virtualdmns 发布基于 HuggingFaceTB/SmolLM3-3B 的 abliterated 版本 SmolLM3-3B-Heretic-Uncensored,用 Heretic 定向消融配合 Optuna TPE 参数搜索,100 次试验中选出 Pareto 前沿上的最优权衡。独立复测显示拒绝率从基线的 82/100 降到 3/100,KL 散度为 0.0684;架构、tokenizer 和聊天模板不变,保留 /think 与 /no_think 模式,仅权重不同。lm-eval 基准显示多数指标变化在 ±2 点内;ggsm8k strict-match 上升 42.0 点而 flexible-extract 下降 8.0 点,作者提示这是答案格式偏移,应视为混合结果。

    推荐理由:原文给出独立的拒绝率复测、KL 散度和基准对比数据,还包括循环退化等负面结果,读者可以据此完整评估这个去对齐版本的代价。

  6. Reddit · r/SillyTavernAI63

    zoracapri 发布 gemma-4-31B-Monadize-v0.1 微调模型,改善角色名重复问题

    作者 /u/zoraruha 微调 Gemma 4 31B 发布了 Monadize(gemma-4-31B-Monadize-v0.1),通过调整 next-token 概率分布和单字符分词来减少 "Elara" "Elias" 这类高频名字的重复。temperature 为 1 时生成 30 个角色名和 30 个城市名,基座 Gemma 大量重复,Monadize 产出 60 个不重复名字,起始字母的 token 分布也明显更宽。作者还观察到叙事风格有变化,并提示这是实验性模型,以关闭 thinking 的方式微调,建议保持 thinking 关闭;模型发布在 https://huggingface.co/zoracapri/gemma-4-31B-Monadize-v0.1。

    推荐理由:作者给出了基座与微调模型的 next-token 分布对比和 30+30 命名实测数据,方法与结果都可复现查看。

  1. GitHub · 灵魂体仓库62

    Heretic Directory 上线:可浏览的 Hugging Face abliteration 模型索引

    instax-dutta 发布 Heretic Directory,一个可浏览的 Heretic abliteration 结果索引站,快照收录 8,388 个仓库、6,320 个已验证、1,066 个上游基座模型、1,014 条消融配方,覆盖 64.8M 下载。站点通过爬取 README 卡片提取 KL 散度与拒绝数,按基座链路归类分组,得分 = 100 × (0.5 × (1 − 拒绝率) + 0.5 × 1/(1+KL));未上传权重的 unverified 卡片不得排第一,KL 低于 1e-4 的 27 条配方标记为不可信。所有指标均为自报、未复测,每日自动刷新,以静态导出部署在 Netlify,代码 MIT 许可。

    推荐理由:原文说明了如何把 Hub 上数千个 abliteration 仓库去重、验证并按 KL 与拒绝率排名,并写明所有数字均为自报未复测。

  2. Hugging Face · 新模型:uncensored52

    Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced GGUF 量化镜像发布

    grainrigi 在 Hugging Face 镜像了 HauhauCS 的 Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced GGUF 量化版,作为备份保留 Q8_K_P 与 f16 mmproj。原版基于 google/gemma-4-26B-A4B-it,总参数 25.2B、激活约 3.8B(128 专家取 top-8 加 1 共享专家),256K 原生上下文、原生多模态;经自动化与人工拒绝基准测试为 0/465 拒绝,少量边缘提示首次会回避但重问即答。

    推荐理由:原文给出 0/465 拒绝率的自动化与人工实测数据,以及各量化档位大小和推荐配置,便于按显存选档。

  3. Hugging Face · 新模型:abliterated57

    staccs 发布 DeepSeek-V4.1-Flash-1017 abliterated 版单文件 GGUF 量化包

    staccs 发布了 106.8 GB 单文件 GGUF,对 dealignai 制作的 DeepSeek-V4.1-Flash-1017 abliterated(UNCENSORED-FP8)版本重新量化,采用 lecore 激活校准的 11-bit 向量量化处理路由专家(2048 码本条目、65,536 校准 token,1.39 bpw,cosine 0.909),注意力骨架用 q4_K,共享专家 VQ 11-bit。评测以未量化源模型为教师,WikiText-2 上 2k/16k 上下文困惑度 2.817/2.936,top-1 一致率 80.2%/78.6%,优于未校准的 vq10sh12 版本(PPL 3.615、top-1 74.5%)。

    推荐理由:作者用未量化源模型给出困惑度、KL 散度和 top-1 一致率对照,可据此评估这套 11-bit VQ 量化的损耗。

  4. Hugging Face · 新模型:uncensored78

    AtomicChat 发布 NVIDIA Nemotron 3.5 Bolt E4B 无拒绝 GGUF 与 3.5 MB LoRA

    AtomicChat 把 NVIDIA Nemotron 3.5 Bolt E4B(基于 Gemma-4-E4B-it)的拒绝行为从权重中移除,提供烘焙 GGUF 量化版和 3.5 MB rank-1 LoRA。按 Arditi et al. 2024 的拒绝方向方法处理 Gemma 4 每块三次写入及其 RMSNorm 共 126 个矩阵。JailbreakBench 拒绝率从 93.8% 降到 1.2%,俄语红队提示从 76% 降到 0%,XSTest 从 9.2% 降到 0.4%,开启思考后 30 题中 29 个拒绝降为 0;MMLU 从 68.50% 到 67.85%(McNemar p=0.21),工具调用 20/20、30k 长文检索 3/3 不受影响。

    推荐理由:原文给出完整的拒绝方向定位方法与前后对照数据,拒绝率从93.8%降到1.2%,MMLU与工具调用影响均有实测。

  5. Hugging Face · 新模型:uncensored64

    flint-uncensored GGUF 量化版发布,拒绝率从 98/100 降至 5/100

    Octopusman388 发布 electroglyph/flint-uncensored 的 GGUF Q4_K_M 量化版(22.5 GiB),该模型是对 RecursiveSI/flint(39.8B-A2.5B MoE 编码模型)的 Heretic 去对齐版本,仓库仅做转换与量化,无额外训练,Apache 2.0 许可。实测拒绝率 5/100(原版 98/100);已知问题是在边界/敏感提示下推理可能失控,10k+ 字符无答案,presence_penalty 1.5 无效,用 --reasoning-budget 4096 加提示语可缓解,4/4 单轮及多轮 agent 运行均正常终止。

    推荐理由:作者实测了拒绝率前后对比和推理循环问题,并给出可复现的 reasoning budget 缓解参数与解码速度数据。

  6. Reddit · r/LocalLLaMA71

    Baseten 开源 9B 决策模型 elephant-1,Decision Index 得分 65 追平 d1-ultra

    Baseten Base Labs 开源了基于 Qwen3.5-9B 后训练的 9B 决策模型 elephant-1(MIT),不生成文本,而是对 yes/no、多选或有序评分问题直接从选项字母 logits 输出概率。Artificial Analysis 独立评测其 Decision Index 得 65 分,与 d1-ultra 持平,成本约 $8/1M tasks,约为 d1-ultra(约 $31)的四分之一;Jev Decision Index 0.4 得 62.65,为 15B 以下最佳。When2Call 95 分、WildGuardTest 93 分,Omniscience 非幻觉率 93 但准确率仅 12,倾向回答不知道。

    推荐理由:原文给出 Decision Index 得分、成本对比和分项基准数据,还说明了训练数据构成与架构改动来源,便于判断适用场景。

  7. Hugging Face · 新模型:abliterated58

    IstroSec 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B 无对齐版 NVFP4A16 量化权重

    IstroSec 在 Hugging Face 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated 的 NVFP4A16 量化版,体积从 bf16 的 65.8 GB 降到 22.1 GB,KL 0.0148。作者用 llm-compressor 0.14.0 按 NVIDIA 的 NVFP4 布局量化:专家用 FP4 权重加 bf16 激活,Mamba2 投影用 FP8,注意力保持 bf16,并用 GPTQ 以 ultrachat_200k 前 256 条对话校准。在 DGX Spark 上用 vLLM 0.30.0 实测通过,MTP 投机解码接受率 63%;24 GB 显存较紧张,建议 32 GB 以上。

    推荐理由:作者实测了 vLLM 部署并给出各量化版本与 bf16 的 KL 和拒绝数对比,可据此选择合适的构建。

  1. Hugging Face · 新模型:abliterated62

    IstroSec 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B 去对齐版 W4A16 量化权重

    IstroSec 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated 的 W4A16 量化版,20.5 GB(bf16 为 65.8 GB),KL 0.0215,用 llm-compressor 0.14.0 以 GPTQ 按 64 分组对称 INT4 量化,激活保持 bf16,面向无 FP4/FP8 支持的 GPU(如 Ampere)。在 DGX Spark 上用 vLLM 0.30.0 测试,4 个温度为 0 的请求均正确且工具调用格式正常;Heretic 评测显示 100 个有害提示拒绝 26 个(bf16 去对齐版为 23),作者称数个拒绝的差异不显著。

    推荐理由:发布方给出了各量化版本相对 bf16 的 KL 散度和拒绝数对比,还注明两次基线运行差异数个拒绝不显著,便于判断精度损失。