模型与平台
Hugging Face 的全部动态：新模型与数据集、权重开放、平台能力与开源生态的持续追踪。
130 条精选近 30 天 130 条共收录 595 条
ready-eight 发布 GLM-5.3-UNCENSORED 的 EXL3 3.0bpw 量化版，源模型为 dealignai 对 zai-org/GLM-5.3 做权重编辑（非微调）的去对齐版本，总量 753B，文件 273 GiB。作者给出与 FP8 源的 KL 散度和困惑度数据，tau2-bench 对比显示 airline 差 -0.070、retail 差 -0.022，均无统计显著性；另提醒 glm4_5 解析器会把字符串参数 JSON 解码成整数，导致零售场景约 70% 工具调用失败，评测已应用该修复。
推荐理由：作者实测了该量化版与原版的 KL 散度和 tau2-bench 对比数据，可据此评估去对齐与量化带来的实际损失。
DavidAU 团队基于 Qwen/Qwen3.8-27B 发布多阶段微调去对齐版本，用 Heretic v1.2.0 ARA 方法消融后拒绝率从 99/100 降至 0/100，并经两阶段调优。模型自称在 8bit 达 ARC-C 735、ARC-E 882，较原版 Qwen3.8 27B 高 144 分，思考 token 减至原来的 1/2 到 1/10；仓库提供含 NEO imatrix 的常规与 MTP 两种 GGUF 量化（MTP 在 5090 上 Q4_K_S 约 90 t/s），需另行下载 mmproj 文件启用视觉，建议 q4km 以上量化以保障工具调用。
推荐理由：作者给出 Heretic 消融前后 KL 散度与拒绝率对比和各量化档基准分，可以判断这个去对齐版本的具体改动幅度。
DavidAU 系发布基于 Qwen3.8 27B 的 ULTRA HERETIC 无审查版本，主打更强去对齐。原版 Qwen3.8 拒绝率为 86/100，709-L 版为 68/100（KL divergence 0.0025），ULTRA HERETIC 版降至 6/100（KL divergence 0.0397）。该模型含 5 种 thinking 模式和 5 种 instruct 模式，可即时切换，thinking token 用量降至原版的 1/2 至 1/5（最低 1/20）；正文附 nightmedia 的 arc/c、arc/e、boolq 等 7 项基准对比数据，GGUF 版计划 2026 年 9 月 15-18 日左右发布，源权重随后放出。
推荐理由：原文给出 Heretic 去对齐前后的拒绝率对比与 KL divergence 数据，可据此判断这个去对齐版本实际去掉了多少安全对齐。
作者发布 Swift 1.5 Qwen3.8-Flash-Next NVFP4 的去审查替换文件，将拒答方向以 1.5 倍强度从 151 个写入残差流的张量中投影掉，并提供每层专家从 512 个剪至 256 个的 pruned256 变体。逐文件给出 SHA-256 与验证报告，24,576 个专家重新量化后分量约 −0.498；实测在单卡 RTX PRO 6000（96 GB）上用 SGLang 可跑约每秒 1,000–1,200 生成 token，12 个中文政治敏感问题全部完整回答而原版大多拒答或给官方口径短答。未跑通用基准与 pruned256 变体；n-gram 嵌入分片约 102 GB 需从原仓库获取。
推荐理由：作者给出了逐层投影去除拒答方向的做法和完整验证数据，包括编辑前后分量、量化误差和12题政治敏感问题实测对比，可直接复现。
CCSSNE 在 Hugging Face 发布基于 Google DeepMind Gemma4 26B-A4B 官方 QAT 权重的去对齐 GGUF 版本，作者实测 0/465 拒绝，数据集与能力不变。推荐 Balanced 变体面向 agentic coding、推理与创作场景；附带 Unsloth 的 MTP 投机解码头，经作者在 llama.cpp 中测试生成速度约快 35% 且输出不变，支持 256K 上下文与 mmproj 视觉输入。
推荐理由：作者给出了拒绝率实测结果和消融思路，还附 MTP 投机解码速度对比，读者可自行评估这个去对齐版本的实际可用性。
Matt Suiche 发布针对 google/gemma-3-27b-it 的 projective control vector（GLP），不改动权重，在语言模型 11–61 层的残差流上以 alpha 0.25 运行时投影，打包为 glp.* GGUF 文件。验证套件显示 stock 模型本就通过 refusal32 的 29/32，加向量后 31/32 comply，benign32-holdout 32/32 不受影响，三个 stock 拒绝的 prompts 全部变为连贯 on-topic 输出；1–10 层因低于置空对照 5x 门槛被排除，作者警告 alpha 不可跨模型移植。
推荐理由：原文给出了完整的 alpha 阶梯、拒绝率和 benign 对照数据，还解释了为何只覆盖 11 到 61 层，方法与证据都比较清楚。
Matt Suiche 在 Hugging Face 发布针对 google/gemma-3-1b-it 的投影控制向量（GLP）文件，运行时在残差流后层按 h <- h - alpha * (h . d) d 施加，作用于第 4、5 和 8–25 层，alpha 0.25，不修改任何权重。验证显示 stock 模型 refusal32 本就通过 29/32，steering 后 32/32 全部交付，benign32-holdout 保持 32/32，alpha 0.25/0.5/1.0 阶梯平坦且零损坏输出；alpha=0.0 对照组 64/64 与 stock 完全一致。
推荐理由：原文给出了投影向量的推导方法、alpha 阶梯与拒绝率对照数据，读者可以据此评估去对齐的实际幅度与适用边界。
pierpaolo 在 Hugging Face 发布了 Swift-1.5-Qwen3.8-27B-NVFP4-Uncensored-MTP 的 GGUF 构建，基于 UkisAI Swift 1.5 对 Qwen3.8-27B 的微调，把安全拒绝方向从权重中投影移除，并从带审查的上游版本合并 MTP 头以支持 llama.cpp 的 --spec-type draft-mtp 推测解码。
推荐理由：作者给出了拒绝方向的投影方法、消融后拒绝率前后对比和 MTP 接受率数据，读者可据此判断这个去对齐版本的去对齐程度和性能代价。
alesha-pro 发布 GLM-5.3-Flash-abliterated-Maya-M-GGUF，基于 Project Maya 的 Maya-M 量化，附带 2.2 MB 拒绝方向向量和 Maya 引擎补丁，可在推理时逐层移除拒绝。在 4x RTX 3090 上开启向量后 256K 上下文解码 56 tokens/s；178 条 AdvBench 与 JailbreakBench 请求中仅 2 条仍拒绝（自杀与自残相关），未开启向量的 EXL3 2.05 bpw 量化上原模型拒绝 144/146，开启后 438 条回答 0 拒绝。
推荐理由：作者给出拒绝向量构造方法与178条请求的拒绝率前后对比，并附KLD数据，读者可自行判断去对齐幅度。
作者发布 GLM-5.3-Flash 的 EXL3 混合量化（gate/up 2 bit、expert down 3 bit，约 2.4bpw，98.1 GB），并附 2.2 MB 的逐块去拒向量，运行时从 4 条残差流中减去各 3 个方向来移除拒绝。在 4x RTX 3090 上可跑 256K 上下文（77% 专家驻留 VRAM），256K 下 178 个 AdvBench/JailbreakBench 回答 0 拒绝，原版 2.05bpw 量化在无思考模式下 146 请求拒绝 144 个；带向量后速度为 52.4 tokens/s 对比无向量 53.7。KLD 0.0959，需配合作者自己的 exllamav3 fork 使用，许可证 MIT。
推荐理由：作者给出逐块去拒方向的构造方法、拒绝率前后对照和KLD量化数据，可自行复现并检验量化与去对齐的实际代价。
anlord 在 Hugging Face 发布 gemma-4-E2B-it-abliterated 的 GGUF 量化合集，原模型消融拒绝行为后每 100 条有害提示的拒绝数从 99 降到 4。提供 bf16 到 Q4_0 共 12 个量化文件，全部由同一 F16 源用 llama-quantize 转换，8 GB 显存的 GPU 可完整容纳 Q4_K_M 至 Q8_0，仅含文本塔，多模态推理需用父仓库 safetensors，许可沿用 Gemma 条款。
推荐理由：原文给出拒绝率前后对比和各量化档位的实测说明，读者可按显存预算直接挑选合适档位。
alexwkleung 发布 JetBrains/Mellum2.1-12B-A2.5B-Thinking 的 abliterated GGUF 版本，用 Heretic 消融 662 个 tensor，拒绝率在 enable_thinking 为 false 时从 43/44 降至 14/44，GSM8K 89/100 无明显回归。作者还发现 Heretic 1.4 在 Transformers 5 的融合 MoE 模块上会静默跳过专家层，此构建将融合专家拆回独立 Linear 后再消融，提供 Q4_K_M 到 Q8_0 共四档量化文件与 sha256 校验值。
推荐理由：卡片给出消融修改的 tensor 清单和拒绝率前后对照，还包括 Heretic 在 MoE 融合模块上静默失败的具体坑与修复方法。
dima6312 在 Hugging Face 上发布 ajgazin 的 Swift-1.5-Qwen3.8-27B Uncensored（UkisAI Swift 1.5 的 abliterated 版）的 MLX oQ4e 量化，体积 17.0 GB、4.9 bits per weight，仅做量化未改其他内容，并保留 MTP 头以支持 oMLX 中的自推测解码。在 M4 Pro 48GB 上实测：编码任务 21/24、工具调用 27/30、100 条提示词拒绝 11 次（原模型为 97 次），解码 39.8 tok/s，MTP 接受率 87.5%；模型沿用 Swift Open License v1.0，年收入超 100 万美元的组织商用需 UkisAI 的企业授权。
推荐理由：作者用统一的拒绝率测试对比了量化版与原模型，还保留了 MTP 头并给出解码速度，量化质量有实测数据可查。
haddockaihamburg 在 Hugging Face 发布了 LiquidAI/LFM2.5-2.6B 的 abliterated 去对齐版本，用 heretic 工具（方向性消融加 TPE 参数优化、Arbitrary-Rank Ablation 合并权重）全自动生成，无需手动调参，heretic 共跑20次 Optuna 试验并恢复 Pareto 前沿顶部。独立于 heretic 评分器的实测显示，25条有害提示中基座模型拒绝22次，该版本拒绝0次；作者提醒仅25条提示、单一随机种子，不能将拒绝率数字解读为无能力损失，也未跑完整基准。
推荐理由：原文给出了消融方法与独立实测的拒绝率对比，并坦承只有25个提示词、单种子运行，读者可据此自行评估其参考价值。
hotdogs 在 Hugging Face 发布 Ternary-Bonsai-2-27B-Abliterated-swift-cap-PQ2_0-MTP，基于 BoldingBuilds 的去拒绝 v2 版，以 0.4 scale 合并 Swift 去对齐与 ThinkingCap 省 token 推理两个 SVD-LoRA。模型采用 PQ2_0 三元量化（约2.13 bits/weight），27.3B 参数仅约 7.6 GB，支持 262,144 token 上下文、视觉输入和 MTP 投机解码。仅能通过 PrismML 的 llama.cpp fork 加载，主线程 llama.cpp、Ollama 和 LM Studio 均不支持。
推荐理由：原文给出abliteration的张数、MMLU损失和各LoRA保留能量，合并构建的局限与适用范围都写得很透明。
作者用 HuggingChat 里的 ML Intern 在几天内自制了 7 个开源模型（含 citrus-disease-vlm-instruct、Huggy LoRA、Pocket rewriter 0.8B、Agate 4-step 等），总算力成本约 103 美元。文中公开全部提示词（GitHub 仓库 yvrjsharma/ml-intern-prompts），并总结了三条关键写法：让 Agent 先报基线再训练、先跑小规模冒烟测试、设定预算上限并要求超支前请示；例如 citrus 项目用 3,017 张标注图微调 Qwen3.5-2B，测试集准确率从基座 14.9% 提升到 52.8%，成本约 1.90 美元。
推荐理由：作者把 7 个提示词原样公开，预算上限、基线对比和冒烟测试的写法可以直接搬到自己的 Agent 训练项目里。
Hugging Face 的 Aritra 介绍了一种无需配置、无需 API key、无需设置的直接聊天方式，可对话托管在 Hugging Face Inference Providers 上的模型，只需执行 `ssh chat.hf.co`。团队邀请用户反馈意见。
推荐理由：来自 Hugging Face 团队的零配置接入方式，用一条 ssh 命令直接与托管模型聊天，省去配置和 API key。
开发者 scttfrdmn 在 GitHub 发布 hf-bedrock-map，一个每日刷新的 Hugging Face 仓库与 Amazon Bedrock 可服务模型之间的公开映射，用于回答自托管 HF 模型是否已可在 Bedrock 按需调用。工具定时枚举并合并四个美国区域的 Bedrock 目录（合计约 139 个原生模型，多于 us-west-2 单区域的 114 个），通过 AWS 模型卡 EULA 链接和 Hugging Face Hub API 解析对应仓库，按 confirmed、validated、ambiguous、proprietary、unresolved 五级标注置信度并提供可审计的 evidence 字段，同时提供静态搜索页面和反查 API。
推荐理由：原文给出了从 Bedrock 目录反查 Hugging Face 仓库的完整方法与置信分级，团队可据此避免为已在 Bedrock 托管的模型重复自建 GPU。
KENIC-1 在 Hugging Face 发布 Qwen3.8-Flash-Next GSQ-RCO 的 abliterated GGUF 版本，采用字节级张量移植，将全部 48 层中的 144 个 write-to-residual-stream 投影张量替换为 orcarouter 消融权重，不重算任何 GSQ 学到的量化值。四个量化档位（IQ3_S / IQ3_XXS / IQ2_XS / Q2_0）保持上游逐张量类型分配不变，体积仅比上游多 0.25–0.44 GB；1223 个张量经逐张量 blake2b 核验，144 个目标全部改变、1079 个非目标逐字节一致，行为抽查显示上游拒答的提示词此版可详尽回答。
推荐理由：原文给出了逐张量的移植方法与blake2b核验数据，读者可以确切看到哪些张量被改、代价多大。
Reflection 发布开放权重模型 Beam 1.0，采用 MoE 架构，总参数 501.3B、激活 23.4B，支持 1M 上下文，以 Apache 2.0 许可提供 BF16、FP8、NVFP4 三种精度。官方称其推理 token 用量约省 3 倍，SWEBench Verified 达 81.6%，AIME 2026 达 97.7%，不禁止蒸馏和微调。
推荐理由：官方模型卡给出完整基准表和三种量化版本数据，读者可以据此对比 Beam 与其他开放权重模型在编码和推理任务上的表现。