跳到正文

方向

无对齐模型 最新动态

去对齐、无审查、abliterated 与 base 原始权重模型的发布与实测。重点是有拒绝率对比、消融方法与可复现证据的那一部分,而不是只在名字里写了 uncensored 的。

452 条精选近 30 天 228 条共收录 1,485 条

更新

精选归档 · 第 21 页

10月7日周三第 401–420 条
  1. Hugging Face · 新模型:abliterated78

    MiMo-V2.6-Distill-Qwen-9B 发布 abliterated 版,拒绝率从 78.1% 降至 9.4%

    作者 Hadi 对 XiaomiMiMo/MiMo-V2.6-Distill-Qwen-9B(MIT 许可)做拒绝消融,在 Hugging Face 发布 Flexingmeow/MiMo-V2.6-Distill-Qwen-9B-Abliterated(D 激进变体),拒绝率从 78.1% 降到 9.4%,数学推理准确率保持 100%,困惑度变化小于 0.03 NLL。因 qwen3_5 混合注意力架构不被现有工具支持,作者自写了基于 transformers 的管线,全程 CPU 完成。关键发现是拒绝方向必须从生成的回复区提取,在提示词末 token 提取的方向消融后无效(KL ≈ 1e-7,拒绝率不变);作者也提示评测集较小且微调可能重新引入拒绝。

    推荐理由:原文给出完整消融方法、拒绝率前后数据和评估局限,还提出推理模型需在生成区提取拒绝方向的可迁移结论。

  2. GitHub · 去对齐工具与仓库73

    Keys 发布 vLLM 0.27 上 Qwen3.8-27B 消融版 NVFP4 推理栈,单台 DGX Spark 跑通 1M 上下文

    Keys(drowzeys)在 GitHub 发布完整 4-bit 推理配方,将 abliterated 版 aday777/Qwen3.8-27B-ARA 通过 eugr vLLM 0.27 GB10 构建部署在单台 NVIDIA DGX Spark(121 GB UMA)上。核心是把 vLLM PR #49891 的 FA2 NVFP4-KV 路径回移植到 sm_121a,使 KV 池从约 2.1M token 翻倍到 4.34M,实现 1M 上下文约 4.14× 并发;A4Q 原生 fp4-QKᵀ 带来 48–96K 下 prefill +8–10%、TTFT −7–9%,decode 中性(同模型 A/B 实测)。

    推荐理由:原文给出单卡 DGX Spark 跑通 1M 上下文的完整方法、逐项实测日志和未奏效的记录,可作为 GB10 量化推理栈的可复现参考。

  3. GitHub · 去对齐工具与仓库56

    psnb-obs 十六层越狱工程套件在 GitHub 开源

    GitHub 用户 superpengam 开源 psnb-obs,一套把越狱做成可开关、可量化、可复现的十六层工程套件,含措辞转换、出站清洗、多轮状态机、LRM 自主攻击、多模态与隐写注入、LLM 裁判和投毒检测等模块。仓库给出跨模型实测结论,如措辞转换使同一能力 ASR 从 50% 升至 100%、reasoning 挡位 off 时拒绝率 80% 对 high 40%、语境包装在 GLM 上反效,静态映射表实测 78.6% 而变异搜索文献达 92.5~99%;附 CLI、Pi 插件、多平台部署器与 322 项测试,声明权重层对齐硬底线无法用提示词攻穿,使用边界见 DISCLAIMER.md。

    推荐理由:仓库给出跨模型实测 ASR 与自动搜索对比静态表的数字,读者可据此了解越狱手法的分层工程与模型间差异。

  4. Hugging Face · 新模型:abliterated61

    MiniCPM-V-4.6 Huihui 去审查 8-bit MLX 版发布,4x 下采样修复大图 OCR

    作者发布了 huihui-ai/Huihui-MiniCPM-V-4.6-abliterated 的 8-bit MLX 量化版 YCF-AI/MiniCPM-V-4.6-Huihui-abliterated-8bit-MLX,体积仅 2.3 GB,M1 Ultra 上解码约 140–180 tok/s。相比旧 mlx-community 8bit 版,换用去审查权重是为全栈一致去审查;Heretic 去审查版因空间描述退化被弃用。关键改动是把图像 token 的 downsample_mode 从 16x 改为 4x,使 30 行大页 OCR 达到 120/120 零漏行、35 项视觉套件 35/35,且速度无可测损失。

    推荐理由:原文给出换用 Huihui 去审查版而保持 OCR 精度和速度的实测对照,还解释了 4x 下采样为何修复大页 OCR。

  5. Hugging Face · 新模型:abliterated84

    Ternary Bonsai 2 27B Abliterated v2 GGUF 发布,修复思考预算耗尽问题

    timfromhcs 发布 Ternary Bonsai 2 27B Abliterated v2 的 PQ2_0 GGUF 权重,通过修改输出层一行让模型在答案写完后关闭推理,避免 v1 把答案写进推理导致预算耗尽出空白回答。在 StrongReject 150 条有害请求、16,384 token 预算测试中得分 0.941(151 中空白 7 次),优于 Hikari07jp 0.738、OS-Software Heretic 0.723 等其他消融版本;SimpleSafetyTests 拒绝率 0%,MMLU 相比原版降 0.56 点,是同类中代价最小的。

    推荐理由:作者给出多组对照评测数据,包括与其他消融版本的横向对比和 MMLU 代价,读者可以据此判断这版去对齐的实际效果。

  6. Hugging Face · 新模型:abliterated75

    Qwen3.8-Flash-Next 剪枝 Coder 版 GGUF 发布,配合 Strata 运行时投影去除拒绝行为

    alesha-pro 在 Hugging Face 发布 Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Coder-Strata-GGUF,权重逐字节复制自 ISTA-DASLab 剪掉一半专家、以 3.5 bit 存储的 GSQ-RCO Coder 版本(下载 58.4 GB 对比 83.6 GB,ISTA 数据为原模型 91.3% 的 SWE-bench Verified 和 98.7% 的 LiveCodeBench v6)。作者的贡献是验证其此前发布的 480 KB 拒绝方向向量在剪枝模型上依然有效,并用 Niko1221 的 Strata 运行时以逐层投影方式去除拒绝。

    推荐理由:作者实测了在剪枝版 Qwen3.8-Flash-Next 上运行时投影拒绝向量的实际效果,给出拒绝率和 KL 距离数据,方法可复用。

  7. Hugging Face · 新模型:abliterated60

    Methane 发布 Qwen3.8-Flash-Next 去对齐版 GSQ-RCO 量化 GGUF 模型

    Methane 在 Hugging Face 发布 Qwen3.8-Flash-Next 的去对齐版 GSQ-RCO 量化 GGUF 模型,保留 1,078 个 ISTA 张量,并对来自 windowsxp811203 去对齐检查点的 146 个 BF16 张量重新量化。实测生成速度约 31 tok/s,比未改动的 ISTA IQ3_XXS 快约 31%,下载体积大 9.6%;MMLU 82.68%、GSM8K 86.72%、strict IFEval 85.16%、raw HumanEval 66.46%,除编码外三任务平均变化 −0.66 个百分点,等质量尚未证实。

    推荐理由:作者给出了与原 ISTA 量化的速度和四项基准对比数据,读者可据此评估这个去对齐量化版本的实际代价。

  8. Hugging Face · 新模型:uncensored58

    Qwen3.5-9B 去审查微调版发布,用 Claude 4.6 蒸馏数据训练

    作者 Mal1cc 在 Hugging Face 放出 Qwen3.5-9B 的 HERETIC 无审查微调版,用 Unsloth 在本地硬件上以 Claude 4.6 大型蒸馏数据集微调,称将 Qwen 思考替换为 Claude 4.6 式思考且基准有所提升。去审查数据显示 100 题拒绝数从原版 100 降至 6,KL 散度 0.0793;ARC 等 7 项基准给出 thinking、instruct 版与原模型对比分数,视觉输入经测试可用,视频部分未测试。建议最低 q4ks(非 imatrix)或 IQ3S(imatrix)量化,默认上下文 256k,其他版本仍在测试中。

    推荐理由:作者给出了各基准的前后对比、KL 散度和 100 题拒绝率数据,读者可以据此自行判断这个去对齐微调版的质量。

  9. Hugging Face · 新模型:uncensored60

    gemma-4-E2B-it 去对齐版 GGUF 量化发布,拒绝率从 98/100 降至 4/100

    独立贡献者 princepppp 发布了 google/gemma-4-E2B-it 的去对齐版本 gemma-4-E2B-it-ultra-uncensored-heretic 的 GGUF 量化,使用 Heretic v1.2.0 的 Arbitrary-Rank Ablation 方法,消融 attn.o_proj 组件(层 17-24)。

    推荐理由:作者给出了拒绝率、KL 散度和 MMLU 前后对比,可据此判断这个去对齐版本去掉了多少、损失了多少。

10月6日周二
  1. Hugging Face · 新模型:uncensored57

    Gemma-4-Queen-31B-it 发布 Heretic 去对齐 LoRA 适配器(GGUF)

    SaturnHeaven 发布 Gemma-4-Queen-31B-it 的 rank-64 abliteration LoRA 适配器 GGUF 版,基于 Heretic v1.2.0 的 ARA 方法对 attn.o_proj 的去对齐差值做 SVD 截断近似,用于角色扮演和创意写作时减少拒绝和免责声明。

    推荐理由:作者给出了 rank-64 近似的重构保真度指标和源模型拒绝率对比,读者可据此判断这个 LoRA 适配器去对齐的可靠程度。

  2. Hugging Face · 新模型:abliterated68

    grimlee 发布 Swift-1.5-Qwen3.8-27B-Abliterated 去对齐版本

    grimlee 在 Hugging Face 发布 ukisai/Swift-1.5-Qwen3.8-27b 的去对齐衍生版本,采用 pos46/FULL/lambda=1.2 的拒绝方向投影,修改 131 个张量。

    推荐理由:原文给出拒绝方向投影方法与成对评测数据,读者可据此判断该去对齐版本在拒绝率与能力保留之间的实际取舍。

  3. Hugging Face · 新模型:uncensored61

    TopherAU 发布 Qwen3.8-27B TURBO 去审查 GGUF 微调版,ARC-C 达 735

    TopherAU 在 Hugging Face 发布基于 Qwen/Qwen3.8-27B 的去审查微调版 Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF,提供常规与 MTP 两种 NEO imatrix GGUF 量化。

    推荐理由:原文给出 Heretic ARA 消融的拒绝率与 KL 散度前后数据,以及 8bit/4bit 下 ARC-C 等基准对比,可据此评估这个去对齐微调的实际效果。

  4. Hugging Face · 新模型:abliterated82

    BoldingBuilds 发布 AREX-2 Abliterated GGUF 去对齐版本

    BoldingBuilds 发布 BAAI AREX-2(基于 Qwen3.8 的 27B agent 微调)的去对齐 GGUF 版本,将拒绝方向从 64 个权重张量(第 8-39 块)投影移除。

    推荐理由:作者给出了拒绝率、工具调用和 KL 位移的实测数据,可以据此判断这次去对齐改动到底动了什么、代价多大。

  5. arXiv · cs.CL67

    arXiv 论文:base 模型可借起始 token 线索触发推理,Olmo-3-7B MATH-500 从 42% 升至 78%

    arXiv 论文(arXiv:2610.06851)研究训练数据如何在 base 模型回复的起始 token 与后续推理行为之间建立关联,发现固定特定起始 token 线索即可让 base 模型在数学和编码上接近其 RL 训练版本。

    推荐理由:论文用因果数据干预把推理行为追溯到训练数据,并给出固定起始 token 即可逼近 RL 版本性能的具体数字。

  6. arXiv · cs.AI64

    研究视觉语言模型视觉定位输出的安全对齐缺口

    arXiv 论文 2610.05637 系统研究了视觉语言模型(VLM)视觉定位输出的安全性,将 VLSU、BBQ-V、Asimov-2.0 三个安全基准改造成 15,401 对仅在输出形式上不同的匹配请求。

    推荐理由:论文用 15,401 对匹配请求量化了 VLM 在 grounding 输出上比 VQA 更不安全的差距,并给出可复用的微调方法与提升数据。

  7. arXiv · cs.CL59

    arXiv 论文提出 CAP 指标发现被抑制的 LLM 安全特征

    arXiv 论文(arXiv:2610.05541)提出反事实激活势 CAP,量化被抑制安全特征的潜在激活倾向,并给出两阶段筛选算法 CSFD,从数十万 transcoder 特征中定位候选安全特征。

    推荐理由:论文提出量化被抑制安全特征的 CAP 指标和两阶段筛选算法,实验覆盖 Gemma、Qwen、Llama 五个模型,可作机制可解释性方法的补充。

  8. Hugging Face · 新模型:uncensored68

    spiritfather 发布 MiMo-V2.6-Flash-MOPD-Yamz-Uncensored GGUF 量化版

    spiritfather 发布 MiMo-V2.6-Flash-MOPD-Yamz-Uncensored 的 GGUF 量化版,把 yamz-labs 的运行时去审查编辑直接烘焙进权重,使其在任意 llama.cpp 运行时无需特殊引擎即可生效。

    推荐理由:原文给出了拒绝率前后对比和量化损失数据,读者可以据此判断这个去对齐版本到底去掉了多少、代价多大。

  9. Hugging Face · 新模型:abliterated62

    sbussiso 发布 Llama-3.2-1B-Instruct-abliterated 去对齐权重

    sbussiso 在 Hugging Face 发布 Llama-3.2-1B-Instruct 的 abliterated 版本,通过对 untied lm_head 权重做读出空间正交化使去拒绝编辑持久化,推理时无需 hook。

    推荐理由:原文给出五组对照的拒绝率与 MMLU 损失数据,读者可以据此判断这个持久化去对齐编辑的实际代价。