模型与平台
Hugging Face 的全部动态：新模型与数据集、权重开放、平台能力与开源生态的持续追踪。
130 条精选近 30 天 130 条共收录 593 条
npario 在 Hugging Face 发布 gemma-4-31B-it-qat-uncensored-heretic-UDmerge-GGUF，将 llmfan46 的 abliterated 张量合并到 Unsloth 无损 Q4_0 量化中，称可获得比朴素消融量化更好的准确率和拒绝率。提供两个变体，UDmerge-Q4_K_XL 将 attn_output.weight（blk.10 至 blk.35）量化为 Q4_0，UDmerge-Q4_K_XXL 量化为 Q8_0，后者拒绝率 20%，与 QAT BF16 持平，且基本不影响 TG 速度；实测 QAT Q4_0 拒绝率为 32%。
推荐理由：作者用统一的 PPL、KLD、拒绝率和 MMLU 数据对比了合并版与朴素消融量化的差异，Q8_0 变体把拒绝率压回 20%。
Microsoft 与 Hugging Face 发布 ThinkingBox-Training，在 GitHub 开源了将数据库终态可执行检查转化为 RL 奖励的后训练流程。用离线策略相对难度筛选出 187 个训练任务，对 Qwen3.8-27B 做 50 步 GRPO 后，ThinkingBox-Bench 507 个任务中每次都成功的任务从 38（7.50%）升至 107（21.10%），pass@1 从 51.70% 升至 60.78%，pass@20 略降 7 个任务；单个可靠任务成本从 $24.36 降至 $8.00。
推荐理由：把数据库终态检查直接用作 RL 奖励的完整训练配方，任务筛选方法和成本变化都给了数据，可迁移到有状态 Agent 训练。
KRAFTON 从零训练的 Raon-1 mini preview 发布，为 30B-A4B（28.8B 总参数、每 token 激活 4.3B）MoE 模型，采用 Raon Delta Attention 与 Raon-mHC 的混合注意力架构，原生支持 262,144 token 上下文，以 Apache 2.0 许可开源。主打韩语对话与 Agent 任务，支持 Hermes Agent、Pi 和 OpenCode 工具调用；官方基准显示其在 IFBench、Chatbot Korean 等项目领先对比 MoE 模型。
推荐理由：模型卡给出了与其他 MoE 和稠密模型的基准对比、架构细节和完整本地部署方案，可据此评估其真实定位。
HuggingFaceBio 发布 Carbon-X，一个 14.8B 参数的 decoder-only 模型，在 Qwen3-14B 基础上用 DNA 序列与自然语言联合训练，可在普通对话中直接分析原始 DNA 并用英文回答。混合 tokenizer 用 BPE 处理文本、以 6-mer 编码 DNA，无独立 DNA 编码器；五个 DNA 基准平均 66.7%（关闭思考），比 Qwen3-14B 高 27 分，接近 GPT-6.1 Sol 的 67.5% 而推理成本约其 1/1,800；估计分析 ClinVar 240 万个意义不确定变异约需 $300，而所测前沿模型需 $32,000 至 $400 万。
推荐理由：原文给出五个 DNA 基准的平均分、与基线模型的差距和成本对比，可据此评估这个 DNA 微调模型的实际水平。
electroglyph 用 Heretic v2.0.0.dev0 的任意秩消融（ARA）方法发布了 LiquidAI/LFM2.5-24B-A2B 的去对齐版本。拒绝率从原版的 99/100 降到 4/100，KL 散度为 0.0650，PIQA acc_norm 为 0.7497（原版 0.7443）；该版本从 50 个候选中选出，仅对第 14 到 27 层做处理。
推荐理由：原模型拒绝率高达99/100，去对齐后降到4/100，同时给出KL散度和PIQA分数，可核对能力损失程度。
lilcheaty 发布了 RecursiveSI/flint 的 abliterated BF16 衍生版本，按 Arditi et al. 2024 的拒绝方向方法从第 20 层估计方向并编辑了 12,131 个张量，采用 Apache 2.0 许可。Q3_K_M 量化版在 20 条保留提示上显式拒绝从 20/20 降到 0/20，20 条编码提示双方均 0 拒绝且 40/40 完成回答，作者提醒该小规模对比不代表通用安全或能力基准。运行需 llama.cpp PR #30928 等补丁，GGUF 转换版在 lilcheaty/flint-abliterated-GGUF。
推荐理由：作者给出了拒绝方向的估计方法与 20 条保留提示上的拒绝率前后对比，还说明了编辑未覆盖的局限。
SC117 发布 Spark-X2.6-4B-abliterated 的 FIT-GGUF 量化仓库，基于 XHToken/Spark-X2.6-4B 本地做输入门控消融，100 条留出有害提示的拒绝数从 99 降到 7，3-token 全分布 KL 扰动 0.0477，比同拒绝门槛下无门控的 0.2134 低 78%。仓库含 5 个经 KL 门限验证的 FIT 档位加 BF16 参考文件，五档合计 12.84 GiB，比同门槛下最小原生预设小 0.60 GiB（4.5%），其中两档即原生预设；imatrix 由公开语料重建，评测切片未进入校准文本。
推荐理由：原文给出输入门控消融的拒绝率与 KL 前后对比，以及五档量化相对原生预设的实测差距，可据此评估取舍。
thelogicalgate 基于 InternScience/Sage-A1.5 发布网络安全向拒绝消融（abliteration）版本，打包为 Apple Silicon 原生 MLX 8-bit 量化并保留原训练的 MoE 多 token 预测（MTP）草稿头。校准使用 mlabonne/harmful_behaviors 与 harmless_alpaca 各 128 条提示，在 8–31 层以强度 0.75 修改 72 个输出投影模块，路由权重与 QKV 投影未改动；12 条非工具冒烟提示中拒绝启发式检出基线 2 次、修改版 0 次，本地 Python 反序列化与 IDOR PoC 由基线拒绝变为可产出脚本。
推荐理由：原文给出了激活校准方向、修改层与拒绝率前后对比等实测细节，读者可据此判断这个去对齐版本的实际改动幅度。
DevelopingDad 在 Hugging Face 发布基于 NVIDIA Qwen3.8-Flash-Next-FP4-Local 的去对齐独立权重，将 trial 117 实验的拒绝方向干预直接烘焙进 checkpoint，无需运行时 adapter。实测显示烘焙版拒绝数为 0/100（开发集）与 3/100（保留集），与原 adapter 的 KL 差异约 0.037 nats；散文解码约慢 12%（34.8 vs 39.4 tok/s），代码速度基本持平，需 B12X vLLM 运行时，serve-spark.sh 支持 262,144-token 上下文与 MTP 投机解码。
推荐理由：原文给出了拒绝率与 KL 的实测对比和单机性能数据，读者可以据此判断这个去对齐版本的实际代价与效果。
Dharma AI 在 Hugging Face 博客预览 VocabX 论文结果：按每个 token 的成本而非频率重建词表，在不改基座模型、数据和训练配方的前提下，将基于 Qwen3-4B 的葡萄牙语作文自动批改器实测推理成本降低 77.0%。响应平均从 350 降到 101 个 token，bench 分数从 0.703 升到 0.810，LM head 从约 152,000 行缩到约 65,000 行；在 5 个公开领域和 Qwen3、Llama-3.1、Gemma-3 三个模型族的 15 种组合中，压缩率和估算推理成本均领先 FVT、MWT 和 in-place BPE 三个参照方法。
推荐理由：作者用同一基座、同一训练配方做对照实验，把成本按读写分别计价，方法思路可迁移到其他单一领域的专用模型。
Cheurteen 在 Hugging Face 发布了 Hikari07jp 消融版 Ternary-Bonsai-2 27B 的重打包 GGUF：把三值权重从 2.125-bit 编码重新量化到 Prism 的 1.75-bit PTQ1_0 格式，并将 PrismML 的 MTP 草稿头以 Q4_0 重新量化合并。实测在 RTX 3070 8 GB 上，带草稿头的文件达 69.3 tok/s，无头版本 50.8 tok/s；困惑度 8.2894 优于 2.125-bit 版的 8.4593，MMLU 76.07%、HumanEval pass@1 75.00%，重打包仅改变 0.0943% 的权重、MMLU 差 0.14 点。
推荐理由：作者不仅重打包了消融权重，还给出困惑度、tok/s 和 MMLU 等前后对照数据，可以看清 1.75-bit 格式相对 2.125-bit 的实际收益。
IBM 在 Hugging Face 发布 Granite Speech 5.0 系列：新增 granite-speech-5.0-2b 语音语言模型，并更新 granite-speech-5.0-470m-turboctc 和 granite-speech-4.1-2b-plus。2B 版支持六语种转录与翻译、2000 词关键词偏置，英文平均 WER 5.06%，在开源权重 ASR 模型中排名第 2；Turbo CTC 版扩展至七语种并提速约 1.6 倍至 19,870 RTFx；4.1 2B Plus 说话人归因与时间戳更准，长语音 WER 降 24%。三款模型均为 Apache 2.0 许可，支持 Transformers、vLLM、llama.cpp 等。
推荐理由：官方给出各模型在 Open ASR Leaderboard 上的 WER、RTFx 和说话人归因误差对比数据，读者可据此挑选适合的语音模型。
AtomicChat 放出 BFL 的 FLUX 3 Image Klein 提示词扩展器去拒绝版本，通过投影移除拒绝方向，以 GGUF 和 3MB LoRA 两种形式提供。作为对话模型，英语拒绝率从 63% 降到 0%，俄语从 29% 降到 1%，MMLU 仅从 74.15% 降到 73.95%；在 Klein 文生图管线中未观察到去审查效果，因原始图像模型本身已能画出敏感类别。
推荐理由：发布方给出拒绝率、MMLU 和量化损失的完整实测数据，读者可据此判断这个去对齐版本的实际代价。
pottokao 在 Hugging Face 发布 LiquidAI/LFM2.5-24B-A2B 的去对齐 GGUF 量化版，用 Heretic ARA 去审查后拒绝率从 89/100 降到 0/100，BF16 权重上 KL 为 0.260。所有 attn_output 张量保持 Q8_0，去对齐修改集中在 blk.38.attn_output；IQ3_M 档可在 16 GB 显存单卡运行，模型回答前会先思考，需留较大输出预算。
推荐理由：作者给出了用 Heretic ARA 去对齐前后的拒绝率对比和 KL 数值，并说明各量化档的显存取舍。
pottokao 发布基于 LiquidAI/LFM2.5-24B-A2B 的去对齐版本，用 Heretic 的 ARA 方法和分布式 Optuna 搜索实现。仅 model.layers.38.self_attn.out_proj.weight 一个张量被改动，BF16 权重、tokenizer 和聊天模板保持官方原样。实测（关闭思考块后测）拒绝率从原版 89/100 降到 0/100，first-token KL 为 0.260；作者提醒不同测法下 KL 数字差异巨大，需同口径对比。用法与原模型相同，支持 transformers / vLLM / SGLang / llama.cpp，官方 DSpark draft 模型在此版本上的接受率尚未测得。
推荐理由：原文给出只用一个张量的最小改动和关闭思考块前后的 KL 对照，可帮助读者判断去对齐版本的取舍。
Hugging Face 与 NVIDIA 宣布推出 SimReady Central Library，汇集超过 2,000 个带物理属性的 SimReady OpenUSD 仿真资产，免费、无门槛开放。资产覆盖机械臂、夹爪、仓储和冷却设备等，由 FANUC、Universal Robots、Vertiv、LG Electronics 等 OEM 提供，可用于机器人训练环境和 AI 工厂数字孪生，并支持 USD Search 自然语言检索与 GPT-6 Astra 辅助搭建 Isaac Sim 场景。
推荐理由：由发布方直接介绍资产库的构成和OEM贡献方式，读者可以了解免下载门槛的仿真资产从哪里找、怎么用。
Hugging Face 联合 Zhongguancun Academy 与 Telethon 遗传学研究所发布开源 14.8B 模型 Carbon-X，基于 Qwen3-14B，用混合 tokenizer 在单一 decoder 中联合建模 DNA 序列与自然语言。五项 DNA 基准平均 66.7%（关闭思考），比起点 Qwen3-14B 高 27 分，接近 GPT-6.1 Sol 的 67.5% 而推理成本约为其 1/1800，分析 ClinVar 全部 240 万意义不明变异约花 $300。权重以 bfloat16 适配单张 80 GB GPU，可用 vLLM 部署，支持作为 agent 工具调用，未做临床验证、不可用于医疗决策。
推荐理由：原文给出五项 DNA 基准得分、成本对比和完整训练配方，读者可以据此评估这个 DNA 语言模型的实际水平与用法。
作者发布 Ternary-Bonsai-2-27B-Abliterated-PQ2_0-MTP-Q4_0-GGUF，在 Hikari07jp 的 abliterated 构建基础上把 MTP 草稿头从 Q8_0（430.41 MiB）重量化为 Q4_0（227.91 MiB），使组合能在 8GB 显卡上运行，实测 RTX 3070 上 45.7 tok/s、7 724 MiB 显存。主干与 abliterated 构建逐位一致，仅 blk.64.* 不同；因 MTP 头只是草稿、输出由主模型验证，困惑度 8.4593 与无头版本 8.4557 在测量误差内，200 个贪心 token 零分歧。
推荐理由：作者给出逐字节校验和 RTX 3070 8GB 实测数据，说明把 MTP 头降到 Q4_0 后为何不损失输出质量。
AtomicChat 在 Hugging Face 发布 Ornith 1.5 122B 的去拒绝 GGUF 量化版，通过在 48 个 block 中移除残差流上的拒绝方向实现。英文拒绝率从 93.8% 降至 1.2%，俄语从 43% 降至 0%，MMLU 从 83.65% 到 83.90% 基本不变；提供 AD-IQ4_XS_S（71.2 GB）等多种 Atomic Dynamic 量化，方法遵循 Arditi et al. 2024 的单方向拒绝机制研究。
推荐理由：原文给出拒绝率前后对比、MMLU 复测和 KL 数据，读者可据此判断这个去对齐版本的实际代价。
xtools-at 基于 unsloth/Ministral-3-3B-Reasoning-2512 发布去对齐版本，使用 Heretic v2.0.0.dev0 的 Arbitrary-Rank Ablation 方法，对第 9 至 20 层做消融。实测 100 次中拒绝次数从原版的 91 次降到 1 次，KL 散度为 0.0170。原模型为 Ministral 3 家族最小的 3.4B 语言模型加 0.4B 视觉编码器，支持 256k 上下文窗口，BF16 下可装入 16GB 显存，量化后低于 8GB，采用 Apache 2.0 许可证。
推荐理由：原文给出 Heretic 消融参数与拒绝率前后对比，读者可据此判断这个去对齐版本实际去掉了多少。