模型与平台
Hugging Face 的全部动态：新模型与数据集、权重开放、平台能力与开源生态的持续追踪。
129 条精选近 30 天 129 条共收录 590 条
R0U5 在 Hugging Face 发布基于 Qwen2.5-1.5B-Instruct 的 abliterated 版本，用 Lethe 方法从对比激活中计算拒绝方向并从残差写入权重矩阵（含嵌入矩阵）中正交化移除。模型转为 GGUF 后在 llama.cpp 实际服务环境验证，20 条 held-out 拒绝诱导提示的拒绝数从 17/20 降到 0/20，连贯性检查通过；并指出自评同源采样和把退化输出计为合规两种假完美陷阱。提供 Q8_0（1.65 GB）与 f16（3.09 GB）权重，经 YaRN 扩展至 65,536 token 上下文，作者明确说明消融只改变拒绝行为、不增加能力。
推荐理由：原文给出 Lethe 消融方法、llama.cpp 实测拒绝率从 17/20 降到 0/20，还说明了两个易被忽视的评测陷阱。
pasangimhana 发布 gemma4-12b-it-abliterated，基于 google/gemma-4-12B-it 做权重编辑，将拒绝方向从残差写入中正交化移除，无训练无微调，bf16 单文件 23.9 GB，共修改 97 个张量。大基准（769 条有害提示）上有害拒绝率从 454 降到 6，comply 从 32% 升至 91%，良性提示退化输出率与基座相同（9/92）；方法上在每层捕获 150 有害与 150 无害提示的残差求方向，采用以第 24、28 层为中心、sigma 6 的宽高斯带正交化，并强调嵌入编辑不可省略。使用时需将 <turn|>（token 106）设为停止符；模型无任何安全过滤，作者提醒不要无外部策略层直接公开部署，且未跑 MMLU、GSM8K 等能力基准。
推荐理由：原文给出消融方法、拒绝率前后对比和退化输出对照，读者可据此判断这次权重编辑去掉了多少拒绝行为、代价多大。
dealignai 在 Hugging Face 发布 Nanbeige4.3-33B 的 UNCensored GGUF 版本，移除基础模型的拒绝行为，提供 Q6_K（25.3 GB）、Q4_K_M（18.7 GB）、IQ2_XXS（8.7 GB）三种量化，均附带基于 1M token 校准内容的 imatrix，保留原生 think on/off 与 512K 上下文。与同量化基础版对比，MMLU chat 下降 Q6_K −1.74pp、Q4_K_M −1.09pp、IQ2_XXS −4.53pp；6 提示多轮合规测试三个量化均为 6/6 通过、0 次拒绝。
推荐理由：原文给出三种量化的 MMLU 前后对照和多轮拒绝率实测，读者可据此评估去掉拒绝行为的能力代价。
FRENCHFAKER 发布首个 abliterated 版 Nanbeige4.3-33B GGUF，用 refusal-direction ablation 移除原始模型对进攻性安全请求的拒绝行为。50 条有害提示词基准上拒绝率从 80%（40/50）降至 8%（4/50），安全/渗透测试类提示词拒绝率约 0%，推理与工具调用保持完整；IQ4_XS 量化约 17 GB，可在单张 24 GB GPU 上以约 33 tok/s 运行，基于 Apache-2.0 许可。
推荐理由：原文给出拒绝率前后对照和逐层消融方法，读者可据此评估这个去对齐版本的可靠程度。
3hs4n 发布 Qwen3.8-Flash-Next-Uncensored 的 MLX 优化量化版，目标模型采用 affine 2-bit/group-128 重建，搭配 Inco AI 的 BF16 DFlash2 草稿模型，完整下载 74.048 GB。在 M1 Max 64 GiB 实测中，代码与数学 warm 解码达 37.62 和 33.69 tokens/s，约为基线的 1.70× 和 1.56×，文本仅 1.048×；固定 50 题 GSM8K 子集全部答对且与原生参考一致，进程峰值内存 42.12 GiB。
推荐理由：作者实测了 M1 Max 上代码与数学解码的加速倍数和内存峰值，并给出 32/48/64 GiB 的可行性判断，便于评估本地部署。
lesj0610 发布基于 nvidia/Qwen3.8-Flash-Next-FP4-Local 的 abliterated 版本，权重文件与基座逐字节一致，仅靠 config.json 中的 abliteration_config 块和 fp4local-abliterated vLLM 插件在推理时做拒绝方向投影。625 条有害提示的拒绝短语命中从基座 97.92% 降到 0.16%，MMLU 较基座低 1.30 分，GSM8K 无显著变化；需 vLLM 0.32.1rc0 以上版本，拒绝行为仅在英文下测试，视频能力未评测。
推荐理由：原文给出拒绝率、MMLU/GSM8K 与基座的对照数据，并解释了为什么对 FP4 量化权重选择推理时投影而非直接改权重。
作者发布了一个 Strata 运行时去拒绝方案包，收录 ISTA-DASLab 的 Q2_0、IQ2_XS、IQ3_XXS、IQ3_S 四档 GSQ-RCO 量化权重（逐字节复制并校验 SHA256），外加一个 480 KB 的拒绝方向向量文件，来自 Huihui 对 144 个残差写入张量的秩一编辑，在推理时对每层残差流做投影 h = h - (h·r)r 以移除拒绝行为。
推荐理由：作者用拒绝率、KL 散度和解码速度实测了运行时去拒绝向量的效果，数据可直接用于判断这种方案对输出的改动幅度。
dealignai 在 Hugging Face 发布 GLM-5.3-FP8 的全谱系无对齐版本，通过直接修改 bf16 residual-writer 张量实现权重级去审查，不使用微调、LoRA 或运行时钩子。v2 修复了 v1 在约 2% 高难度提示上的推理循环问题，HarmBench-320 上 GARBAGE 从 7 降至 0，非版权 240 项行为 TRUE_COMPLY 达 91.7%（off），MMLU 87.43% 较基线 +1.85pp。附 vLLM TP8 部署配置，注意 reasoning_effort 仅支持 low/high，high/max 需 max_tokens ≥ 8000。
推荐理由：原文给出权重级去对齐的具体做法和 HarmBench-320、MMLU 前后对比数据，读者可据此评估该版本的去对齐程度与能力损失。
RecursiveSI 的 Flint 40B-A2.5B 去对齐版本发布，用 abliterix 从 attention、共享与路由专家投影中移除拒绝方向，Optuna 在 100 条 MITRE 提示词上选强度。保留的 MITRE 拒绝率从 15% 降至 0%（n=100，Q8_0），无害提示词 KL 散度 0.0146 nats/token，HumanEval+、MBPP+、GSM8K、MMLU-Pro、CyberMetric、WMDP-cyber 无显著下降，pp512/tg128 速度变化在 3% 以内。
推荐理由：原文给出消融方法与拒绝率前后对照，MITRE 拒绝从 15% 降到 0% 且各基准无显著下降，便于评估该去对齐版本的取舍。
virtualdmns 发布基于 HuggingFaceTB/SmolLM3-3B 的 abliterated 版本 SmolLM3-3B-Heretic-Uncensored，用 Heretic 定向消融配合 Optuna TPE 参数搜索，100 次试验中选出 Pareto 前沿上的最优权衡。独立复测显示拒绝率从基线的 82/100 降到 3/100，KL 散度为 0.0684；架构、tokenizer 和聊天模板不变，保留 /think 与 /no_think 模式，仅权重不同。lm-eval 基准显示多数指标变化在 ±2 点内；ggsm8k strict-match 上升 42.0 点而 flexible-extract 下降 8.0 点，作者提示这是答案格式偏移，应视为混合结果。
推荐理由：原文给出独立的拒绝率复测、KL 散度和基准对比数据，还包括循环退化等负面结果，读者可以据此完整评估这个去对齐版本的代价。
instax-dutta 发布 Heretic Directory，一个可浏览的 Heretic abliteration 结果索引站，快照收录 8,388 个仓库、6,320 个已验证、1,066 个上游基座模型、1,014 条消融配方，覆盖 64.8M 下载。站点通过爬取 README 卡片提取 KL 散度与拒绝数，按基座链路归类分组，得分 = 100 × (0.5 × (1 − 拒绝率) + 0.5 × 1/(1+KL))；未上传权重的 unverified 卡片不得排第一，KL 低于 1e-4 的 27 条配方标记为不可信。所有指标均为自报、未复测，每日自动刷新，以静态导出部署在 Netlify，代码 MIT 许可。
推荐理由：原文说明了如何把 Hub 上数千个 abliteration 仓库去重、验证并按 KL 与拒绝率排名，并写明所有数字均为自报未复测。
grainrigi 在 Hugging Face 镜像了 HauhauCS 的 Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced GGUF 量化版，作为备份保留 Q8_K_P 与 f16 mmproj。原版基于 google/gemma-4-26B-A4B-it，总参数 25.2B、激活约 3.8B（128 专家取 top-8 加 1 共享专家），256K 原生上下文、原生多模态；经自动化与人工拒绝基准测试为 0/465 拒绝，少量边缘提示首次会回避但重问即答。
推荐理由：原文给出 0/465 拒绝率的自动化与人工实测数据，以及各量化档位大小和推荐配置，便于按显存选档。
AtomicChat 把 NVIDIA Nemotron 3.5 Bolt E4B（基于 Gemma-4-E4B-it）的拒绝行为从权重中移除，提供烘焙 GGUF 量化版和 3.5 MB rank-1 LoRA。按 Arditi et al. 2024 的拒绝方向方法处理 Gemma 4 每块三次写入及其 RMSNorm 共 126 个矩阵。JailbreakBench 拒绝率从 93.8% 降到 1.2%，俄语红队提示从 76% 降到 0%，XSTest 从 9.2% 降到 0.4%，开启思考后 30 题中 29 个拒绝降为 0；MMLU 从 68.50% 到 67.85%（McNemar p=0.21），工具调用 20/20、30k 长文检索 3/3 不受影响。
推荐理由：原文给出完整的拒绝方向定位方法与前后对照数据，拒绝率从93.8%降到1.2%，MMLU与工具调用影响均有实测。
Octopusman388 发布 electroglyph/flint-uncensored 的 GGUF Q4_K_M 量化版（22.5 GiB），该模型是对 RecursiveSI/flint（39.8B-A2.5B MoE 编码模型）的 Heretic 去对齐版本，仓库仅做转换与量化，无额外训练，Apache 2.0 许可。实测拒绝率 5/100（原版 98/100）；已知问题是在边界/敏感提示下推理可能失控，10k+ 字符无答案，presence_penalty 1.5 无效，用 --reasoning-budget 4096 加提示语可缓解，4/4 单轮及多轮 agent 运行均正常终止。
推荐理由：作者实测了拒绝率前后对比和推理循环问题，并给出可复现的 reasoning budget 缓解参数与解码速度数据。
IstroSec 在 Hugging Face 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated 的 NVFP4A16 量化版，体积从 bf16 的 65.8 GB 降到 22.1 GB，KL 0.0148。作者用 llm-compressor 0.14.0 按 NVIDIA 的 NVFP4 布局量化：专家用 FP4 权重加 bf16 激活，Mamba2 投影用 FP8，注意力保持 bf16，并用 GPTQ 以 ultrachat_200k 前 256 条对话校准。在 DGX Spark 上用 vLLM 0.30.0 实测通过，MTP 投机解码接受率 63%；24 GB 显存较紧张，建议 32 GB 以上。
推荐理由：作者实测了 vLLM 部署并给出各量化版本与 bf16 的 KL 和拒绝数对比，可据此选择合适的构建。
IstroSec 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated 的 W4A16 量化版，20.5 GB（bf16 为 65.8 GB），KL 0.0215，用 llm-compressor 0.14.0 以 GPTQ 按 64 分组对称 INT4 量化，激活保持 bf16，面向无 FP4/FP8 支持的 GPU（如 Ampere）。在 DGX Spark 上用 vLLM 0.30.0 测试，4 个温度为 0 的请求均正确且工具调用格式正常；Heretic 评测显示 100 个有害提示拒绝 26 个（bf16 去对齐版为 23），作者称数个拒绝的差异不显著。
推荐理由：发布方给出了各量化版本相对 bf16 的 KL 散度和拒绝数对比，还注明两次基线运行差异数个拒绝不显著，便于判断精度损失。
IstroSec 在 Hugging Face 发布 ThinkingCap-Nemotron-3.5-Lightning-30B-A3B-abliterated，通过权重差值移植 trohrbaugh 对基座模型 NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 的 abliteration 结果，移除 bottlecapai/ThinkingCap 微调版的拒绝行为，MTP 推测解码头逐位保留，提供 bf16 全量权重（65.8 GB）及 Q8_0 等 GGUF 量化版。
推荐理由：原文给出权重差值移植方法和关思考模式下的拒绝率与 KL 数据，可据此判断这个去对齐版本实际改动幅度。
leonsarmiento 在 Hugging Face 发布 huihui-ai/Huihui-Qwen3.6-35B-A3B-abliterated 的 MLX 量化版，采用 BaseQuant_XL 6/8-bit 混合量化并嫁接 MTP 头，总大小 30.60 GB。MTP 头来自 huihui-ai 在去对齐时原样保留的 19 个源张量，经逐张量校验与 Qwen3.6-35B-A3B 原始 MTP 头字节一致。在 oMLX（M4 Pro 48GB）上 mtp_enabled 开启时草稿接受率 89.1%，吞吐 78.6 tok/s，较关闭时的约 58.5 tok/s 提升 28–34%；MTP 加速仅支持 oMLX，LM Studio 只能加载基座模型。
推荐理由：作者给出 MTP 草稿接受率、吞吐对比和逐张量离线校验数据，读者可据此判断这个 MLX 移植在速度与精度上的取舍。
dima6312 在 Hugging Face 发布 RecursiveSI 的 Flint 40B-A2.5B 去除拒绝方向的 abliterated 版本，提供 BF16 safetensors 与 GGUF 权重。
推荐理由：原文给出消融方法与配对评测数据，MITRE 拒绝率从 0.15 降到 0.0 且各基准质量未显著下降，可据此判断去对齐代价。
npario 在 Hugging Face 发布 gemma-4-31B-it-qat-uncensored-heretic-UDmerge-GGUF，将 llmfan46 的 abliterated 张量合并到 Unsloth 无损 Q4_0 量化中，称可获得比朴素消融量化更好的准确率和拒绝率。提供两个变体，UDmerge-Q4_K_XL 将 attn_output.weight（blk.10 至 blk.35）量化为 Q4_0，UDmerge-Q4_K_XXL 量化为 Q8_0，后者拒绝率 20%，与 QAT BF16 持平，且基本不影响 TG 速度；实测 QAT Q4_0 拒绝率为 32%。
推荐理由：作者用统一的 PPL、KLD、拒绝率和 MMLU 数据对比了合并版与朴素消融量化的差异，Q8_0 变体把拒绝率压回 20%。