模型与平台
Hugging Face 的全部动态：新模型与数据集、权重开放、平台能力与开源生态的持续追踪。
130 条精选近 30 天 130 条共收录 593 条
Hugging Face 官方宣布通过 TorchTPU 原生 PyTorch 后端，Transformers、Diffusers 和 Kernels 无需 torch_xla 或 JAX 即可原生运行在 TPU 上，用 device_map="tpu" 即可加载模型。附 Pallas kernel 与 torch.compile 支持，batch 64 下 Qwen3-30B-A3B 解码提速 21.5×、Gemma 4 26B-A4B 提速 12.8×；transformers 测试套件在 TPU 上 96.5% 通过，已报告 34 个问题并修复 19 个。
推荐理由：官方给出了从 torch_xla 迁移到原生 PyTorch 后端的具体写法，还附带 kernel 加速倍数和 CI 通过率等实测数据。
IBM Research 发布 ALTK-Evolve，通过 GPT-4.1 从智能体自身轨迹中蒸馏行为规则并追加到系统提示词，在不更新权重的情况下让 stock ReAct 智能体在 τ²-bench retail 达到 Pass^4 67.5%，登顶 2026 年 10 月 12 日榜单快照。换用 gpt-5.5 后 airline 以 82.0% 位居第一；对比显示 retail 需 292 条 lossless 全集才见效，airline 的 14 条 sup3 核心反而更可靠，代价主要是输入 token 成本上升，对话轮数略降。
推荐理由：不更新权重，仅靠从轨迹中蒸馏的提示词级规则就把 stock ReAct 智能体推上 τ²-bench 榜首，方法可直接复用。
Harsha001 在 Hugging Face 发布 LTX-2.5 22B dev 的去审查版 ROCmFPX GGUF 权重，供 stable-diffusion.cpp 在 AMD GPU 上运行。视频 transformer 为 Q4_0_ROCMFP4 4 位格式，Gemma 4 12B 文本编码器经 Heretic 拒绝编辑去审查，拒绝率从 99/100 降到 6/100（KL 散度 0.12），只编辑第 24-39 层的注意力输出投影，并将该差异以 FP32 合入 Lightricks 调优权重，其余张量逐位保留。
推荐理由：作者给出拒绝率前后对比和逐张量差异统计，还解释了为何文本编码器不用 4 位量化，方法可复用。
Hugging Face 发布 AnyLanguageModel 1.0，它是 Apple Foundation Models 框架的 drop-in 替代，可让同一套 session 代码使用系统模型、llama.cpp/MLX/Core ML 开源权重模型及托管服务。1.0 版所有 provider 均支持工具调用与引导式生成，托管端支持 OpenAI、Anthropic、Gemini、Ollama、Hugging Face Inference Providers 等端点；同日发布 swift-huggingface 1.0 与 swift-xet 1.0，并可运行于 Linux。
推荐理由：官方回顾了一年迭代脉络，并给出本地与托管推理共用一套 Foundation Models 风格 API 的具体做法，对 Swift 开发者有直接参考价值。
Hugging Face 的 PyTorch 团队介绍 PyTorch 2.15 对 MPS 后端的改进：新增 float8_e4m3fn 张量与 F.scaled_mm，MoE 模型解码比 2.14 提速 5 到 6.5 倍，M3 Ultra 上 Qwen3.6-35B-A3B 从 9.4 升到 61.3 tokens/s，LFM2.5-8B-A1B 从 23.6 升到 123.6 tokens/s。线性层走专用 GEMV 内核（几何平均 1.23 倍），词表 softmax 约 8 倍加速；Wan2.2 视频 VAE 解码的驱动内存峰值从约 270 GiB 降到 8 GiB，并修复了 Qwen-Image-2.1 VAE 编码器在 MPS 上损坏图像的问题。
推荐理由：Hugging Face PyTorch 团队亲述 MPS 后端改进细节，给出各模型的实测吞吐数字，Mac 上跑模型的读者可以对照评估升级收益。
neko-legends 发布 DeepSeek-V4.1-Flash-1017 的无对齐 EXL3 2.9bpw 打包，基于 dealignai 的 abliterated 版本，将 54 个稠密 BF16 矩阵重编码为 EXL3 trellis 以适配 TensorFold Zig TP4 引擎，可在 4× NVIDIA DGX Spark 上运行。评测显示去对齐代价集中在道德判断，moral_scenarios 从 95.5% 降至 40.9%，而 HumanEval chat 成绩 92.68% 反高于官方版；另提供 3.5bpw 兄弟版本，moral_scenarios 略高但解码慢约 10%。
推荐理由：原文给出 MMLU 与 HumanEval 的前后对照，显示去对齐的代价集中在道德判断而非知识或编码能力。
Recursive 发布了面向编码智能体的 MoE 语言模型 Flint，总参数 39.8B、每 token 激活约 2.5B，在 Terminal-Bench 2.1 得 54.9%、SWE-bench Pro v2 得 89.7%、SWE-bench Verified 得 74.2%。模型采用 256 路由专家加共享专家、49 层（2 稠密 + 47 MoE）、262,144 token 上下文，以 Apache 2.0 许可发布，附 BF16 检查点、SGLang 服务套件及面向 NVIDIA 和 Apple Silicon 的量化版本，unsloth 提供 GGUF 格式和运行指南。
推荐理由：官方模型卡给出了架构细节、评测设置和基准分数来源标注，读者可以据此了解这款小激活参数编码智能体模型的实际规格。
DavidAU 与 Nightmedia 发布基于 Qwen3.5-9B 的多阶段微调合并去对齐模型 Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic，提供 16bit 源权重及 NEO IMATRIX 常规与 MTP GGUF 量化。作者称该模型在 7 项基准上超过 Qwen3.5-9B 与 Qwen3.5-27B，ARC-C 达 0.649（bf16）；去对齐方面 KL 散度 0.0793，100 次请求中拒绝 6 次（原模型 100 次），支持 256k 上下文与视觉（需另下 mmproj 文件），MTP 量化在 5090 上 Q4_K_S 可超 185 t/s。
推荐理由：作者给出 KL 散度和 100 次请求中 6 次拒绝的实测数据，可对照原模型判断去对齐程度。
Hugging Face 宣布 TorchNeuron 为 PyTorch 在 AWS Trainium 上的原生后端，自 2026 年 10 月 20 日起开放公测，可通过 pip install torch-neuronx 安装。
推荐理由：官方给出了 TorchNeuron 与 Optimum Neuron 的模型支持率对比和可直接复用的推理与训练脚本，便于评估是否迁移到 Trainium。
nofacedfl 发布基于 Xiaomi 约 1 万亿参数 MiMo-V2.6-Pro 的 abliterated "heretic" 基座的约 2-bit 量化版（300 GB，GGUF 分片），适配 Maya 引擎并带独立视觉塔，MIT 许可。实测在 5× RTX 4090 48 GB + 2× A100 40 GB 上代码生成 71–75 tok/s、200K 上下文 38–40 tok/s，支持 512K 上下文与约 1.6 秒的图像输入；abliterated 基座在该量化下 40 道 JailbreakBench 请求仍拒答 24 题，运行时拒绝向量可将拒答降到 1–5/40 但会增加编造答案，暂未随包发布。
推荐理由：原文给出拒绝率实测数据，abliterated 基座经量化后 40 题仍拒答 24 题，读者可据此判断去对齐的实际程度。
junmo-k 在 Hugging Face 发布 Piecrust/GLM-5.3-Flash-FP4-Abliterated 的 MLX 重打包，基于 NVIDIA 的 NVFP4 量化版 GLM-5.3-Flash（320B 总参数、约 18B 激活），对第 15-36 层的 44 个矩阵施加 rank-1 拒绝方向编辑。在 Apple M5 Ultra 256GB 上实测，去对齐编辑相对未编辑版本 NLL 高 0.46%，解码慢 12-24%，峰值内存多约 13GB；相对作者自己的 158GiB JK v4 版 NLL 低 1.47%。加载需 14 行 oMLX 补丁以支持每专家 weight_scale_2。
推荐理由：作者给出消融方法细节和与未编辑版本的 NLL、速度、内存对照数据，可据此评估这次去对齐编辑的实际代价。
androidli 发布 GLM-5.3-Flash-Uncensored 的 EXL3 3.0bpw 量化包（mcg 码本），仅对每层 288 个 routed experts 量化，非路由张量保持源生精度，权重共 152 GB，面向 2× DGX Spark (GB10) 经 CX7 直连以 TP=2 运行。实测 EvalPlus 542 题 86.3%、GSM8K 98.0%、HumanEval 98.2%，与 Mia-AiLab 自报的 4bpw 版差异在噪声范围内；调优配置下 KV 池 3,891,200 tokens，前向延迟平均快约 15%。
推荐理由：作者实测了 3.0bpw 量化版与 4bpw 版的质量、KV 池和延迟对比，并标注了各数字对应的复现配置。
dealignai 发布 GLM-5.3-ABLITERATED-FP8 v2，对 GLM-5.3-FP8 做权重级去审查，仅修改 bf16 residual writer 张量、不动 FP8 专家，可在原版 vLLM 上以 Hopper 原生 FP8 速度运行。v2 修复了 v1 在约 2% 高难度提示上的推理循环问题，HB-320 上 GARBAGE 降为 0，非版权危害面 TRUE_COMPLY 达 91.7%（off），代价是整体 TRUE_COMPLY 下降约 4pp；MMLU 87.43%，较基线 +1.85pp。附 TP8 H200 部署配置与 reasoning_effort 只认 low/high 等运行注意事项。
推荐理由：发布方给出了 MMLU 与 HarmBench-320 的前后对照数据，v2 版在消除推理循环的同时保留了约 87% 的 MMLU 水平。
candor-lab 用自研权重编辑工具 Candor 移除了 IFM 的 K2-Horizon-7B 的拒绝行为，以单个 Q4_K_M GGUF（5.59 GB）发布在 Hugging Face，Apache 2.0 协议。288 个 StrongREJECT 有害提示的拒绝数从原版 287 降到 3，300 个 Alpaca 无害提示拒绝数从 2 降到 0，KL 散度 0.052，GSM8K 正确数 1222 对 1209，均在噪声范围内。编辑为 rank-3 修改，覆盖 61 个输出矩阵；搜索的 313 次试验和最终评测均在 llama.cpp 中开启 thinking、reasoning effort high 下完成，前两名候选曾因数学成绩下降或思考预算耗尽被淘汰。
推荐理由：原文给出拒绝率、KL 散度和 GSM8K 的前后对照数据，读者可以据此判断这次权重编辑到底去掉了什么、损失了多少。
alpha2beta 在 Hugging Face 发布 huihui-ai/Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated 的 GPTQ Int4 W4A16 量化版（sym、group-128），面向 vLLM XPU 后端并在 Intel Arc Pro B60 上验证，截至 2026-10-18 是该模型在 Hub 上唯一的 GPTQ 量化。实测 decode 40.183 tok/s、TTFT 0.460 s，MTP 投机解码 k=4 时相对关闭草稿提速 2.08 倍；12,288 token 长上下文下 decode 从 40.200 降至 37.315 tok/s（-7.2%）。
推荐理由：作者给出了在 Intel Arc Pro B60 上的实测吞吐、长上下文衰减和 16 题质量分，并记录了校准偏差与评测陷阱，便于复现和横向对比。
vedevpatel 发布 rajaykumar12959/qwen3.8-27b-abliterated 的 imatrix GGUF 量化，该模型移除了拒绝行为，可回答原版 Qwen3.8 拒答的请求，目标在 16 GB 显存上用 llama.cpp 运行。每个量化均与 BF16 原版对比：MMLU-Pro（4200 题、5-shot、thinking off）差异均在 95% 置信区间内不显著，BF16 为 79.60%；WikiText-2 KL 散度显示 IQ3_M 漂移比 4-bit 量化高 3.3–3.8 倍。
推荐理由：作者对每个量化版本都给出了与 BF16 原版的 MMLU-Pro 和 KL 散度对比，还实测了 16 GB 显存下的上下文与速度表现。
distributedcognition 在 Hugging Face 发布 JetBrains/Mellum2.1-12B-A2.5B-Thinking 的 abliterated 版本，用投影式 writer 级消融从权重中移除拒绝方向，gated alpha 0.8 下 104 条有害提示的 judge 拒绝从 12 降到 5，MMLU-14k 仅降 0.05pp。发布包含逐层拒绝方向文件（refusal_directions.pt、dirs.npz）供任意强度重消融，完整评测原始数据在 eval-results/，GGUF Q8_0 量化可在 llama.cpp、LM Studio、Ollama、Jan 运行，Apache 2.0 许可。
推荐理由：原文给出消融方法细节和拒绝率、MMLU 前后对比数据，读者可据此判断这个去对齐版本的实际代价。
koldfrontier 在 Hugging Face 发布 ukisai/Swift1.5-Qwen3.8-Flash-Next 的 abliterated 衍生版，对全部 48 层共 24,720 个组件逐权重移除拒绝方向，无训练、无新数据。实测显示未授权框架下的保护性拒绝从 85% 降至 69%，有害请求服从率从 91.0% 升至 94.5%，良性提示的 KL 散度仅 0.0057，但 8 项能力探针丢了 3 项；方向捕获依赖 thinking 开启的提示模式，enable_thinking=False 时有害服从率仅 2.5%。作者定位其为安全研究产物而非安全对齐模型，数字为单模型案例研究。
推荐理由：原文给出逐组件消融方法与消融前后的拒绝率、KL 散度对照数据，可据此判断这次去对齐实际改变了什么、损失了多少能力。
varun-balani 在 Hugging Face 发布 Qwen2.5-32B-Instruct 的 abliterated 版本，用 Heretic 的 ARA 修饰器去除拒绝方向。mlabonne/harmful_behaviors 拒绝率从 98/100 降到 10/100，相对基座模型 KL 散度 0.22；该结果从 24 次试验的优化中选出，提供 bf16 全量权重及 Q4_K_M（约 20 GB）和 Q8_0（约 35 GB）GGUF 量化版本，Q4_K_M 可在约 36 GB 内存的本地环境用 Ollama、LM Studio 或 llama.cpp 运行。
推荐理由：原文给出拒绝率前后对比和 KL 散度数据，可据此判断这个去对齐版本的行为漂移程度。
distributedcognition 在 Hugging Face 发布 jialinyyzz/humanizer（gemma-4 12B 微调的 AI 文风改写模型）的 abliterated 变体，用投影式 writer 级消融在 32 层移除拒绝方向，alpha 0.8。实测基座模型在 104 个有害改写提示上拒绝率仅 2/104，消融后拒绝率不变，MMLU-2280 仅降 0.04pp，GSM8K 持平；refusal_directions.pt 支持任意强度秒级重新消融，附 GGUF 量化可在 llama.cpp、Ollama 等运行，Apache 2.0。
推荐理由：原文给出完整的消融方法、拒绝率与 MMLU 前后对比，并诚实指出基座模型本就几乎不拒绝，读者可据此判断去对齐的实际意义。