跳到正文

方向

无对齐模型 最新动态

去对齐、无审查、abliterated 与 base 原始权重模型的发布与实测。重点是有拒绝率对比、消融方法与可复现证据的那一部分,而不是只在名字里写了 uncensored 的。

248 条精选近 30 天 245 条共收录 828 条

更新

精选归档 · 第 9 页

10月10日周六第 161–180 条
  1. Hugging Face · 新模型:uncensored76

    AtomicChat 发布 Qwen-Image-2.1-Turbo-Uncensored GGUF 文本编码器,拒绝率从 88.9% 降至 1.2%

    AtomicChat 在 Hugging Face 发布去对齐版 Qwen-Image-2.1-Turbo 文本编码器 GGUF,将 Qwen3-VL-8B-Instruct 的拒绝方向从权重中投影去除。作为聊天模型,英文拒绝率从 88.9% 降到 1.2%,俄语从 38% 降到 0%,MMLU 保持 77.35% 不变;45 条敏感图像提示词测试中无一翻转,图像输出仅有约 0.088 的 LPIPS 漂移。提供 BF16 到 Q2_K 量化分档,配 stable-diffusion.cpp 的 --llm 参数本地运行,方法基于 Arditi et al. 2024 的单方向拒绝机制研究。

    推荐理由:原文完整给出拒绝方向消融方法、拒绝率前后对照和量化分档对画面的影响,可据此自行评估这个去对齐编码器的实际改动幅度。

  2. Hugging Face · 新模型:abliterated68

    LFM2.5-350M abliterated 去对齐版发布,拒绝率从 20/25 降至 0/25

    haddockaihamburg 发布 LiquidAI/LFM2.5-350M 的 abliterated 去对齐版本,用 heretic 工具(方向消融加 TPE 参数优化,20 次 Optuna 试验)全自动生成。独立实测 25 条有害提示的拒绝率从基座的 20/25 降到 0/25;lm-eval 七项 0-shot 基准显示 6 项小幅下滑,其中 WinoGragne 降 6.4、ARC-Easy 降 4.8,超出噪声区间,作者提醒推理敏感任务需复检质量。权重以 bf16 合并,无需 adapter,沿用基座的 LFM Open License v1.0,面向对齐与消融方法研究。

    推荐理由:作者给出了独立测得的拒绝率前后对比和七项基准的降幅明细,读者可据此判断这次消融的收益与代价。

  3. Hugging Face · 新模型:abliterated73

    anlord 放出 Gemma-4-E2B-it 消融版,拒绝率从 99/100 降至 4/100

    anlord 在 Hugging Face 发布 google/gemma-4-E2B-it 的 abliterated 版本,用方向消融直接原地改权重,无微调无 LoRA,拒绝率从 99/100 降到 4/100,KL 散度为 2.9072。方法为 Anlord Abliterator 1.6.0 加 Optuna TPE 多目标搜索(100 trials,seed 42),仅修改 35 层文本塔,视觉与音频编码器保留原权重;仓库附带 4 点 Pareto 前沿的更温和变体参数和完整逐字节复现包,GGUF 量化在配套仓库 anlord/gemma-4-E2B-it-abliterated-GGUF 提供 F16 至 Q4_0。

    推荐理由:原文给出了完整的消融方法、拒绝率与KL偏移数据及四点Pareto前沿,读者可按需选择去对齐强度并逐字节复现。

  4. Hugging Face · 新模型:abliterated57

    anlord 发布 google/gemma-4-E2B-it 的 abliterated GGUF 量化版

    anlord 在 Hugging Face 发布 gemma-4-E2B-it-abliterated 的 GGUF 量化合集,原模型消融拒绝行为后每 100 条有害提示的拒绝数从 99 降到 4。提供 bf16 到 Q4_0 共 12 个量化文件,全部由同一 F16 源用 llama-quantize 转换,8 GB 显存的 GPU 可完整容纳 Q4_K_M 至 Q8_0,仅含文本塔,多模态推理需用父仓库 safetensors,许可沿用 Gemma 条款。

    推荐理由:原文给出拒绝率前后对比和各量化档位的实测说明,读者可按显存预算直接挑选合适档位。

  5. Hugging Face · 新模型:uncensored56

    Qwen3.5-9B-Claude-4.6-HighIQ-INSTRUCT-HERETIC-UNCENSORED 微调模型发布,拒绝率从 100/100 降至 6/100

    cookies55 在 Hugging Face 发布了 Qwen3.5-9B 的去审查微调版,用 Unsloth 在本地硬件以 Claude 4.6 大型蒸馏数据集训练,经 Heretic 消融后拒绝率从 100/100 降到 6/100,KL 散度为 0.0793。该版本为 INSTRUCT 模式并修改了 jinja 模板,图像输入经测试可用,视频部分未测试,建议最低 q4ks(非 imatrix)或 IQ3S(imatrix)量化。

    推荐理由:作者给出了消融后的 KL 散度和拒绝率前后对比,以及七项基准分数变化,读者可自行判断去对齐的代价。

  6. Hugging Face · 新模型:uncensored79

    Qwen3.8-27B-Uncensored GGUF 量化版发布,拒绝率从 98/100 降至 12/100

    作者发布了 Qwen3.8-27B-Uncensored 的 GGUF 量化版本(IQ2_M 到 Q8_0),用 Heretic 移除拒绝方向,保留 MTP 头,拒绝行为显著减少但未消除,从 100 个有害提示中的 98 个降至 12 个。权重编辑带来约 0.043 的困惑度增加(相对约 0.7%),MMLU、ARC-Challenge、HellaSwag、Winogrande 四项基准平均下降 0.5 分且均在标准误内。模型卡同时给出 imatrix、自建低比特量化方法和 MTP 投机解码实测(n_max 1 时约 1.19x-1.28x 加速)。

    推荐理由:作者给出了 Heretic 消融方法、拒绝率从 98/100 降到 12/100 以及困惑度和基准的前后对照数据,可以据此判断权重编辑的实际代价。

  7. Hugging Face · 新模型:uncensored63

    j-llm 发布 Qwen3.8-27B-Uncensored 的 OptiQ 混合 4/8-bit MLX 量化版

    j-llm 在 Hugging Face 发布 orcarouter/Qwen3.8-27B-Uncensored 的 OptiQ 混合 4/8-bit MLX 量化版,约 19.2 GB,5.13 bits/weight。该量化基于对 uncensored 权重直接测量的逐层 KL 敏感度分配精度,保留 BF16 视觉塔与 MTP head sidecar,262,144 token 上下文;Capability Score 88.86,高于参考版 mlx-community/Qwen3.8-27B-OptiQ-4bit 的 87.98。

    推荐理由:原文给出逐层 KL 敏感度测量和 6 项基准对比,读者可评估混合量化相对参考版的质量取舍。

  8. Hugging Face · 新模型:abliterated76

    Qwen3.8-27B abliterated 版本发布,权重级消融将拒绝率从 99.3% 降至 0%

    rajaykumar12959 在 Hugging Face 发布 Qwen/Qwen3.8-27B 的 abliterated 版本,用 difference-in-means 方向对每个残差写入权重矩阵做正交化,消融直接写入 checkpoint,无 runtime hook 和 LoRA,仅含语言模型部分(bf16,text-only,约需 55 GB 显存)。在 292 个 held-out 有害提示上拒绝率从 99.3% 降至 0%,覆盖全部 12 个类别;代价是 MMLU-Pro 从 65.1% 降至 61.8%(−3.3 pp),harmless 提示上的 KL 散度为 0.086 nats。

    推荐理由:给出了完整的消融方法、逐层扫描和拒绝率前后对比数据,读者可以据此评估这次去对齐的实际代价与副作用。

  9. Hugging Face · 新模型:abliterated68

    Mellum2.1-12B-A2.5B-Thinking 的 abliterated GGUF 版本发布,拒绝率从 43/44 降至 14/44

    alexwkleung 发布 JetBrains/Mellum2.1-12B-A2.5B-Thinking 的 abliterated GGUF 版本,用 Heretic 消融 662 个 tensor,拒绝率在 enable_thinking 为 false 时从 43/44 降至 14/44,GSM8K 89/100 无明显回归。作者还发现 Heretic 1.4 在 Transformers 5 的融合 MoE 模块上会静默跳过专家层,此构建将融合专家拆回独立 Linear 后再消融,提供 Q4_K_M 到 Q8_0 共四档量化文件与 sha256 校验值。

    推荐理由:卡片给出消融修改的 tensor 清单和拒绝率前后对照,还包括 Heretic 在 MoE 融合模块上静默失败的具体坑与修复方法。

  10. GitHub · 去对齐工具与仓库61

    RedLens:面向本地大语言模型的自动化红队安全评估框架

    Vedant Patel 在 GitHub 开源了 RedLens,一个针对 Ollama 本地运行模型的自动化红队与安全评估框架,支持提示词变异、响应分类、OWASP LLM Top 10 映射和 PDF 报告生成。对 llama3:latest 的最终评估共 1320 次测试(1200 恶意 + 120 良性),ASR 为 28.5%,Block Rate 71.5%,Security Score 79.7/100,最高风险类别为 Jailbreak、Data Extraction 和 Misinformation,Direct 变异是最有效攻击手段(ASR 36.3%)。

    推荐理由:给出了完整的攻击变异、指标计算和OWASP映射方法,并附llama3的实测数据,可作为本地LLM安全评估的可复用框架。

10月9日周五
  1. Hugging Face · 新模型:abliterated75

    Kujira 发布 Underdog Saluki 27B 1.0 MTP 去拒答 GGUF 版

    Kujira 在 Hugging Face 发布 Underdog-Saluki-27B-1.0-MTP 的 abliterated GGUF 版,仅改动第 35–36 层的 4 个张量,其余 862 个张量与原文件字节级一致,未做训练。有害提示词拒绝率从 99% 降到 1%(开思考时 78% 到 2%),英语困惑度上升 1.6%、日语上升 1.8%,速度和显存与 MTP 版相同,约 58–62 tok/s,12 GB 显卡可用 40K 上下文。消融方法未公开。

    推荐理由:原文列出消融改动的具体张量、拒绝率前后对比和困惑度变化,读者可以评估这个去对齐版本的代价。

  2. Hugging Face · 新模型:uncensored57

    dima6312 发布 Swift-1.5-Qwen3.8-27B Uncensored 的 MLX oQ4e 量化版

    dima6312 在 Hugging Face 上发布 ajgazin 的 Swift-1.5-Qwen3.8-27B Uncensored(UkisAI Swift 1.5 的 abliterated 版)的 MLX oQ4e 量化,体积 17.0 GB、4.9 bits per weight,仅做量化未改其他内容,并保留 MTP 头以支持 oMLX 中的自推测解码。在 M4 Pro 48GB 上实测:编码任务 21/24、工具调用 27/30、100 条提示词拒绝 11 次(原模型为 97 次),解码 39.8 tok/s,MTP 接受率 87.5%;模型沿用 Swift Open License v1.0,年收入超 100 万美元的组织商用需 UkisAI 的企业授权。

    推荐理由:作者用统一的拒绝率测试对比了量化版与原模型,还保留了 MTP 头并给出解码速度,量化质量有实测数据可查。

  3. Hugging Face · 新模型:abliterated57

    LFM2.5-2.6B abliterated 去对齐版发布,25条有害提示拒绝率降至0/25

    haddockaihamburg 在 Hugging Face 发布了 LiquidAI/LFM2.5-2.6B 的 abliterated 去对齐版本,用 heretic 工具(方向性消融加 TPE 参数优化、Arbitrary-Rank Ablation 合并权重)全自动生成,无需手动调参,heretic 共跑20次 Optuna 试验并恢复 Pareto 前沿顶部。独立于 heretic 评分器的实测显示,25条有害提示中基座模型拒绝22次,该版本拒绝0次;作者提醒仅25条提示、单一随机种子,不能将拒绝率数字解读为无能力损失,也未跑完整基准。

    推荐理由:原文给出了消融方法与独立实测的拒绝率对比,并坦承只有25个提示词、单种子运行,读者可据此自行评估其参考价值。

  4. Hugging Face · 新模型:abliterated75

    GLM-5.3 (753B) 权重级去审查版发布,NVFP4 量化附拒绝率与 MMLU 对比

    dealignai 以 CRACK 方法发布 GLM-5.3 (753B, ~18B 激活) 的权重级去审查版本 GLM-5.3-ABLITERATED-NVFP4,宣称不用微调、LoRA 或越狱提示,直接在张量中移除拒绝行为,面向授权渗透测试与安全研究。HarmBench 实测 high/max 模式下 156 条提示 0 拒绝,off 模式拒绝率 7.3%(多为版权类);MMLU 84.11%,较 base 的 85.58% 降约 1.5pp。模型给出 vLLM 部署命令,NVFP4 版在 GB10 上 KV 池达 35 GiB/rank,可支撑 TP8 下 512K 实用上下文。

    推荐理由:原文给出 HarmBench 拒绝率和 MMLU 前后对比数据,读者可以据此判断这个权重级去对齐版本的实际效果与能力损失。

  5. Hugging Face · 新模型:abliterated69

    hotdogs 发布 Ternary Bonsai 2 27B 去对齐合并版,约7.6GB 单卡可跑

    hotdogs 在 Hugging Face 发布 Ternary-Bonsai-2-27B-Abliterated-swift-cap-PQ2_0-MTP,基于 BoldingBuilds 的去拒绝 v2 版,以 0.4 scale 合并 Swift 去对齐与 ThinkingCap 省 token 推理两个 SVD-LoRA。模型采用 PQ2_0 三元量化(约2.13 bits/weight),27.3B 参数仅约 7.6 GB,支持 262,144 token 上下文、视觉输入和 MTP 投机解码。仅能通过 PrismML 的 llama.cpp fork 加载,主线程 llama.cpp、Ollama 和 LM Studio 均不支持。

    推荐理由:原文给出abliteration的张数、MMLU损失和各LoRA保留能量,合并构建的局限与适用范围都写得很透明。

  6. Hugging Face · 新模型:abliterated64

    Maximilian228 发布 Huihui-Qwen3.8-Flash-Next-abliterated 的 NVFP4 GPTQ 量化包

    Maximilian228 在 Hugging Face 发布了 huihui-ai 消融版 Qwen3.8-Flash-Next 的 NVFP4 量化包,全部路由专家用 GPTQ(而非 RTN)从 BF16 检查点量化,可在单张 RTX 20-50 显卡(12 GB 以上显存、64 GB 以上内存)上通过 Strata NVFP4 运行 125B 混合 MoE。在留出 token 上,GPTQ 的加权相对误差为 RTN 的 33.5%,48 层全部优于 RTN;实测 182.8 tok/s 解码、2810 tok/s prefill,解码成本与 RTN 持平。

    推荐理由:原文给出完整的 GPTQ 量化方法和 48 层误差对比数据,读者可以据此评估 NVFP4 消融模型的精度与部署成本。

  7. Hugging Face · 新模型:uncensored75

    OrcaRouter Qwen3.8-Flash-Next-Uncensored 发布 GPTQ 量化 NVFP4 权重包

    Maximilian228 在 Hugging Face 发布 OrcaRouter Qwen3.8-Flash-Next-Uncensored 的 NVFP4 (GPTQ) 量化包,供 Strata NVFP4 引擎在单张 12 GB 以上 VRAM 的 RTX 20-50 显卡加 64 GB 内存上运行这个 125B 混合 MoE 模型。模型为 abliterated 去对齐微调,权重中移除了拒绝方向,不拒绝有害请求。作者用 GPTQ 从 BF16 checkpoint 重量化全部路由专家, held-out 误差为 ModelOpt RTN 量化的 33.4%,48 层全部低于 RTN,解码速度与 ModelOpt 包基本持平(约 185.6 对 191.6 tok/s)。

    推荐理由:作者给出完整的 GPTQ 重量化方法和逐层误差对比,NVFP4 去对齐版相对 ModelOpt 量化把误差降到约三分之一。

  8. Hugging Face · 新模型:uncensored56

    Venice.ai 联合 Dolphin 团队发布 venice-uncensored(Dolphin Mistral 24B)

    Venice.ai 与 Eric Hartford 及 Dolphin 团队合作发布基于 Mistral 24B 的 venice-uncensored 权重,定位为平台上无硬编码对齐的模型,对齐由用户系统提示词决定。模型卡保留 Mistral 默认 V7-Tekken 聊天模板,给出用于去审查的示例系统提示词,推荐 temperature=0.15,可用 vLLM(需 vllm>=0.6.4、mistral_common>=1.5.2)或 transformers 运行,全精度约需 60GB 以上显存。

    推荐理由:模型卡写明了依赖系统提示词设定对齐的思路和推荐采样参数,本地部署者可以据此直接上手。

  9. Hugging Face · 新模型:abliterated68

    Dankpaws 发布 Swift 1.5 Qwen3.8-27B Abliterated 的 EXL3 4.25bpw 量化版

    Dankpaws 将 grimlee 的 abliterated 版 Swift 1.5 Qwen3.8-27B 转换为 EXL3 4.25bpw 量化格式,面向双 RTX 5060 Ti 16 GB 硬件,支持三路并发、每路 115,200 tokens 上下文,包含原生 MTP 和视觉权重。作者在 PCIe 拓扑受限的测试机上实测了单请求 66.1 tok/s、三短请求 41.9-43.3 tok/s 等吞吐数据,并明确说明未做额外微调或新的 abliteration,也未与 BF16 做成对评测;许可上同时适用 Swift Open License v1.0 和 Apache License 2.0。

    推荐理由:原文给出了完整的量化参数、实测吞吐和内存数据,读者可以按自己的双卡配置复现这套 EXL3 本地部署。

  10. GitHub · 去对齐工具与仓库57

    cYHBer Console 发布:连接 Ollama 的本地 ChatGPT 风格界面,支持 abliterated 模型与 Agent 工具调用

    DevCop95 在 GitHub 发布 cYHBer Console,一个零依赖的本地 ChatGPT 风格 Web 界面,通过 Ollama 支持 abliterated(无审查)模型、实时流式输出与 Agent 工具调用,默认模型为 richardyoung/qwen2.5-3b-instruct-abliterated。工具含 web_fetch、web_search、文件读写、PowerShell 命令执行及 DNS、端口扫描等红队侦察助手,文件操作限制在项目目录内,web_fetch 阻断 IPv4/IPv6 SSRF 目标,侦察工具限单一目标并封顶端口与并发;项目内置 74 项测试,采用 MIT 许可证,声明仅限授权红队、研究与教育用途。

    推荐理由:项目只用原生 Node 模块零依赖运行,并给出了目录沙箱、SSRF 阻断等安全设计细节,适合想本地部署带工具调用的去审查模型界面的读者参考。