跳到正文
  1. Hugging Face · 新模型:abliterated68

    Qwen3.8-Flash-Next-FP4-Local-Abliterated 发布:不改权重、推理时去对齐

    lesj0610 发布基于 nvidia/Qwen3.8-Flash-Next-FP4-Local 的 abliterated 版本,权重文件与基座逐字节一致,仅靠 config.json 中的 abliteration_config 块和 fp4local-abliterated vLLM 插件在推理时做拒绝方向投影。625 条有害提示的拒绝短语命中从基座 97.92% 降到 0.16%,MMLU 较基座低 1.30 分,GSM8K 无显著变化;需 vLLM 0.32.1rc0 以上版本,拒绝行为仅在英文下测试,视频能力未评测。

    推荐理由:原文给出拒绝率、MMLU/GSM8K 与基座的对照数据,并解释了为什么对 FP4 量化权重选择推理时投影而非直接改权重。

  1. Hugging Face · 新模型:abliterated69

    DeepSeek-V4.1-Flash-1017 去对齐版 GGUF 量化发布,附实测拒绝率与精度数据

    Orca 发布 abliterated 版 DeepSeek-V4.1-Flash-1017 的 GGUF 量化文件,提供 Mix-256G(235.8 GB)与 Mix-128G(114.0 GB)两种构建。模型为 763B 参数 MoE,含 197B 参数 Engram n-gram 表(110.6 GB,留在 SSD 按需读取)和 1M token 上下文;精度按实测 KLD 逐层搜索分配。去对齐版在 500 条有害提示上拒绝率均值 0.074(原版 0.874),JBB-harmful 下降 97%,MMLU 保持 0.91 左右;Mix-256G 在 2×H200 上约 70 tok/s,需 llama.cpp PR #30817,MIT 许可。

    推荐理由:原文给出实测KLD、拒绝率与MMLU对照数据,读者可据此判断各量化档位与去对齐版本的实际损失。

  1. Hugging Face · 趋势模型61

    Recursive 发布开放权重 MoE 编码模型 Flint(39.8B 总参数、约 2.5B 激活)

    Recursive 在 Hugging Face 开放其面向编码智能体的 MoE 模型 Flint 权重,总参数 39.8B、每 token 激活约 2.5B,Apache 2.0 许可。官方评测中 Terminal-Bench 2.1 得分 54.9%、SWE-bench Pro v2 为 89.7%、SWE-bench Verified 为 74.2%;仓库含 BF16 checkpoint 和 SGLang 部署套件,支持 262,144 token 上下文与 OpenAI 兼容工具调用,单个 B300 或 H200 GPU 即可运行一个副本。

    推荐理由:官方模型卡完整给出架构规格、评测设置和单卡部署方法,读者可以据此判断这个编码智能体模型的实际部署成本。

  1. arXiv · cs.CL64

    Forty Questions 论文提出仅凭单词答案识别语言模型的方法,准确率达92.5%

    arXiv 论文提出通过40个日常问题(如“说出一种声音”“说出一位诗人”)的单字答案为语言模型建模指纹,在94个模型的面板上识别出确切模型的准确率为92.5%,随机仅为1.1%;系统提示词会使准确率下降6至16个百分点。作者用该方法检测 OpenRouter 上13个开放模型的96个端点,其中92个与其声称的模型一致,一个端点以 Llama 4 Maverick 之名实际提供 Gemma 4(自报身份且计费按 Gemma 4 的 token 数);计费记录还显示第一方模型被附加了额外上下文,如 Grok 4.7 对一行问题计费1,247个输入 token,而 GPT-4o 同样问题仅12个 token。方法成本每端点仅几美分,代码与数据已公开。

    推荐理由:这篇论文展示了用40个单词答案就能指纹识别API背后的模型,还借计费记录发现OpenRouter上有端点冒名和隐藏注入上下文,方法成本极低可复现。

  2. Hugging Face · 新模型:abliterated52

    DevelopingDad 发布 Qwen3.8-Flash-Next-FP4-Local 去对齐实验版 trial117

    DevelopingDad 在 Hugging Face 发布基于 NVIDIA Qwen3.8-Flash-Next-FP4-Local 的去对齐实验权重 trial117,将 trial 117 实验的拒绝方向干预直接烘焙进 checkpoint,无需运行时 adapter。在两台 DGX Spark 的 TP=2 对照测试中,烘焙版开发集拒绝 0/100、保留集 3/100,与 adapter 的 KL 差异约 0.037 nats;原定的零拒绝目标和 0.20 KL 上限未达成。需 B12X vLLM 运行时,TP=1 冒烟测试通过 5 项基础检查,长上下文、多模态与工具调用能力未经验证。

    推荐理由:作者给出了 adapter 与烘焙权重在拒绝数和 KL 上的对照数据,并明确标注了未验证的能力范围,便于读者自行评估这个实验版本。

  3. Hugging Face · 新模型:uncensored72

    GLM-5.3-Flash 去中国政治审查 LoRA 发布,敏感话题审查率从 65% 降至 1%

    zjj1993 发布面向智谱 GLM-5.3-Flash 的去中国政治审查 LoRA(rank 32,107M 参数,仅作用于 attention 与 shared experts),采用自蒸馏 SFT 加 DPO 两阶段训练,可精确合并进 nvidia/GLM-5.3-Flash-NVFP4 的 BF16 权重。

    推荐理由:原文给出训练方法与前后对照数据,敏感话题审查率从65%降到1%,能力测试差异也在文中列明,可据此自行判断。

  1. Hugging Face Blog59

    Hugging Face 推出 TorchTPU 原生支持,Transformers 与 Diffusers 可直接运行在 TPU 上

    Hugging Face 官方宣布通过 TorchTPU 原生 PyTorch 后端,Transformers、Diffusers 和 Kernels 无需 torch_xla 或 JAX 即可原生运行在 TPU 上,用 device_map="tpu" 即可加载模型。附 Pallas kernel 与 torch.compile 支持,batch 64 下 Qwen3-30B-A3B 解码提速 21.5×、Gemma 4 26B-A4B 提速 12.8×;transformers 测试套件在 TPU 上 96.5% 通过,已报告 34 个问题并修复 19 个。

    推荐理由:官方给出了从 torch_xla 迁移到原生 PyTorch 后端的具体写法,还附带 kernel 加速倍数和 CI 通过率等实测数据。

  2. Hugging Face · 新模型:uncensored59

    Harsha001 发布 LTX-2.5 22B dev 去审查版 ROCmFPX GGUF 权重

    Harsha001 在 Hugging Face 发布 LTX-2.5 22B dev 的去审查版 ROCmFPX GGUF 权重,供 stable-diffusion.cpp 在 AMD GPU 上运行。视频 transformer 为 Q4_0_ROCMFP4 4 位格式,Gemma 4 12B 文本编码器经 Heretic 拒绝编辑去审查,拒绝率从 99/100 降到 6/100(KL 散度 0.12),只编辑第 24-39 层的注意力输出投影,并将该差异以 FP32 合入 Lightricks 调优权重,其余张量逐位保留。

    推荐理由:作者给出拒绝率前后对比和逐张量差异统计,还解释了为何文本编码器不用 4 位量化,方法可复用。

  3. Hugging Face Blog58

    Hugging Face 发布 AnyLanguageModel 1.0,一年来本地模型接入 Apple 平台的成果

    Hugging Face 发布 AnyLanguageModel 1.0,它是 Apple Foundation Models 框架的 drop-in 替代,可让同一套 session 代码使用系统模型、llama.cpp/MLX/Core ML 开源权重模型及托管服务。1.0 版所有 provider 均支持工具调用与引导式生成,托管端支持 OpenAI、Anthropic、Gemini、Ollama、Hugging Face Inference Providers 等端点;同日发布 swift-huggingface 1.0 与 swift-xet 1.0,并可运行于 Linux。

    推荐理由:官方回顾了一年迭代脉络,并给出本地与托管推理共用一套 Foundation Models 风格 API 的具体做法,对 Swift 开发者有直接参考价值。

  4. arXiv · cs.CL63

    WildAWM 论文提出计算机使用智能体环境合成流水线

    论文提出 WildAWM,一条用开源模型合成计算机使用智能体(CUA)可执行环境与任务的流水线,环境同时支持 GUI、MCP 服务和命令行三种交互接口。流水线产出 341 个长程环境任务对,部分需超过 100 步求解,GPT-6-Astra 仅解出 60%;仅在这些合成环境中训练的两个不同规模 Qwen 模型,在 8 个覆盖 web、claw 和 computer-use 的域外基准上均取得明显提升,代码已公开。

    推荐理由:论文给出用开源模型合成计算机操作环境的完整流水线和质量门方法,训练效果覆盖 8 个域外基准,方法可迁移到环境合成类工作。

  5. Hugging Face · 趋势模型69

    Recursive 发布 MoE 编码智能体模型 Flint,unsloth 上线 GGUF 量化版

    Recursive 发布了面向编码智能体的 MoE 语言模型 Flint,总参数 39.8B、每 token 激活约 2.5B,在 Terminal-Bench 2.1 得 54.9%、SWE-bench Pro v2 得 89.7%、SWE-bench Verified 得 74.2%。模型采用 256 路由专家加共享专家、49 层(2 稠密 + 47 MoE)、262,144 token 上下文,以 Apache 2.0 许可发布,附 BF16 检查点、SGLang 服务套件及面向 NVIDIA 和 Apple Silicon 的量化版本,unsloth 提供 GGUF 格式和运行指南。

    推荐理由:官方模型卡给出了架构细节、评测设置和基准分数来源标注,读者可以据此了解这款小激活参数编码智能体模型的实际规格。

  1. Hugging Face · 新模型:uncensored71

    botp 发布 Qwen3.8-Flash-Next 去审查方向文件 china-v1

    botp 发布 china-v1 审查方向文件,推理时在第 4 到 44 层投影掉该方向分量,使 Qwen3.8-Flash-Next 不再对中国敏感话题拒答或用宣传口径,原权重不变、可按请求开关。192 题评测中敏感话题拒答/回避率从 58% 降到 2%,校准回答从 11% 升到 56%;质量对照显示 Agentic 任务 34/34 持平,HumanEval+ 156 对 155、GSM8K 50 对 49、MMLU 96 对 97。方向由 30 组中英对照对比对的残差流均值差构造,已在 Strata 生产环境验证,llama.cpp 原生 --control-vector 是加法而非投影、不能复现结果;作者提示 1989 年六四短问题仍可能回避,法轮功、大饥荒和新疆的数字细节可能夸大。

    推荐理由:原文给出审查方向的构造方法、192 题评测和 paired 质量对照,读者可自行判断去审查效果与能力损失。

  1. Hugging Face · 趋势模型57

    Bria 开源 Fibo 2.0 Dev 统一图像生成与编辑模型

    Bria 在 Hugging Face 发布 8B 参数的 Fibo 2.0 Dev,是首个将图像编辑与文生图统一在一套权重中的 FIBO 下一代模型,在 Artificial Analysis 的开放权重模型中排图像编辑第 1、文生图第 2(2026 年 10 月 20 日)。模型基于 Visual GenAI Language(VGL)结构化 JSON 提示词,支持指令编辑、遮罩编辑、最多 4 张参考图、Inspire 参考生成及 5 种摄影风格模式,架构为 flow-matching DiT,提示词由 Qwen3-VL-4B-Instruct 编码,训练数据全部来自授权数据。

    推荐理由:原文详细给出 VGL 结构化 JSON 提示的生成与编辑用法,以及架构、微调和部署信息,可以照着在自己的流程里复现。

  2. Hugging Face · 新模型:uncensored62

    DeepSeek-V4.1-Flash-1017 无对齐 FP8 权重发布,HarmBench 320 项全部配合

    dealignai 发布基于 DeepSeek-V4.1-Flash-1017 的无对齐版本,在原生 FP8 e4m3 权重上做消融编辑去除拒绝行为,保留 1M 上下文、多模态、工具调用与推理档位,与上游字节兼容可直接加载。HarmBench-320 实测 320/320 全部 COMPLY、零拒绝;MMLU 从基座 87.63% 降至 83.77%(-3.86 pp), Humanities 类损失最大达 -7.31 pp。低比特量化建议在目标精度上重跑消融流程,原生命令行推理已验证于 4×H200,SGLang 启动参数与构建工具链要求在模型卡中给出,MIT 许可,仓库手动门控。

    推荐理由:原文给出 MMLU 与 HarmBench 的前后对照数据,可看出消融改动带来的能力损失和拒绝率变化幅度。

  3. Hugging Face · 新模型:abliterated62

    koldfrontier 发布 Swift1.5-Qwen3.8-Flash-Next 的全量 abliterated 去对齐版本

    koldfrontier 在 Hugging Face 发布 ukisai/Swift1.5-Qwen3.8-Flash-Next 的 abliterated 衍生版,对全部 48 层共 24,720 个组件逐权重移除拒绝方向,无训练、无新数据。实测显示未授权框架下的保护性拒绝从 85% 降至 69%,有害请求服从率从 91.0% 升至 94.5%,良性提示的 KL 散度仅 0.0057,但 8 项能力探针丢了 3 项;方向捕获依赖 thinking 开启的提示模式,enable_thinking=False 时有害服从率仅 2.5%。作者定位其为安全研究产物而非安全对齐模型,数字为单模型案例研究。

    推荐理由:原文给出逐组件消融方法与消融前后的拒绝率、KL 散度对照数据,可据此判断这次去对齐实际改变了什么、损失了多少能力。

  1. Hugging Face · 新模型:uncensored60

    tatekuperus 发布 Qwen3.6-27B-Fable-Fusion-711 无对齐 GGUF 量化版

    tatekuperus 在 Hugging Face 发布基于 Qwen/Qwen3.6-27B 的多阶段微调与合并模型 Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic GGUF 量化版,作者称其为首个在 8bit 和 4bit 下 ARC-C 超过 700 的该规模微调。去审查由 trohrbaugh 用 Heretic v1.2.0+custom 的 Arbitrary-Rank Ablation 方法完成,拒绝率从原版 99/100 降至 4/100,KL 散度 0.0469;作者给出的基准显示该模型在 7 项基准中 6 项超过 Qwen3.6-27B 基座。

    推荐理由:作者给出 Heretic 消融方法与去审查前后拒绝率对比,并附多组基准和第三方实测数据,可核对去对齐是否损伤模型能力。

  2. Hugging Face · 新模型:abliterated52

    distributedcognition 发布 humanizer-abliterated 去对齐版

    distributedcognition 在 Hugging Face 发布 jialinyyzz/humanizer(gemma-4 12B 微调的 AI 文风改写模型)的 abliterated 变体,用投影式 writer 级消融在 32 层移除拒绝方向,alpha 0.8。实测基座模型在 104 个有害改写提示上拒绝率仅 2/104,消融后拒绝率不变,MMLU-2280 仅降 0.04pp,GSM8K 持平;refusal_directions.pt 支持任意强度秒级重新消融,附 GGUF 量化可在 llama.cpp、Ollama 等运行,Apache 2.0。

    推荐理由:原文给出完整的消融方法、拒绝率与 MMLU 前后对比,并诚实指出基座模型本就几乎不拒绝,读者可据此判断去对齐的实际意义。

  1. Hugging Face Blog53

    NVIDIA 与 AI4Bharat 发布 2.8 万亿 token 印度语言预训练语料 Nemotron-pretraining-Indic-v1 及开源生成流水线

    NVIDIA 与 IIT Madras 的 AI4Bharat 推出 Nemotron-pretraining-Indic-v1,约 2.8 万亿 token 覆盖 22 种印度宪法语言,含 22 种语言本族文字数据和 12 种语言的罗马化数据,共 34 种语言-文字配置。流水线用 NeMo Data Designer 和 Gemma-4-31B-it 做文档级翻译、MQM 风格质量评估(保留 75/100 以上)与定向修复,每条记录可溯源,生成配方开源可复用;另十种语言采用 Bodhan AI 的 Indic Translate。Nemotron 3.5 Super VL 用其中 12 语言子集加 100 亿 token 做 CPT 后,五个 Indic 基准提升 4.98 至 9.82 个百分点。

    推荐理由:完整公开了 2.8 万亿 token Indic 语料的生成配方和质量门槛,团队可复用其翻译与修复流水线迁移到自己的语种。

  2. Hugging Face · 新模型:abliterated78

    BoldingBuilds 发布 NVIDIA Nemotron-3.5-Bolt-74B-A9B 无对齐 24GB GGUF 版本

    BoldingBuilds 在 Hugging Face 发布 NVIDIA Nemotron-3.5-Bolt-74B-A9B 的无对齐版本,直接在 24GB 2-bit GGUF 上做权重空间消融,未经过 BF16 重量化,保留了 NVIDIA 量化感知蒸馏产出的约 17GB IQ2_XXS 专家权重。编辑共改动 100 个张量,采用 Arditi et al. 2024 的均值差方向法,λ=0 时输出与原文件逐字节一致作为自检门槛。

    推荐理由:原文给出完整的消融方法、拒绝率与能力对照数据,读者可以据此评估这个去对齐版本的实际效果与局限。

  3. Hugging Face Blog71

    Black Forest Labs 发布 FLUX.3 Image Klein,首日支持 Diffusers

    Black Forest Labs 发布 FLUX.3 Image Klein,开放蒸馏版(16 步、无 CFG)和 base 版(50 步、CFG)两个权重,首日起即可在 Diffusers 中运行。单模型支持文生图、多参考图生图和 bounding box 布局控制,蒸馏版在 H100 上约 2 秒生成 1024×1024 图像,提供 fp8r 和 nvfp4 量化权重及 DreamBooth LoRA 训练脚本。

    推荐理由:官方教程给出两个开放权重的显存占用和 H100 实测生成耗时,还拆解了架构细节,方便评估部署成本。