跳到正文
10月20日周二
  1. arXiv · cs.CL35

    教师监督、固定表示与校准:候选评分决策模型的精确风险计算

    论文在 Gaussian 替代模型下精确计算候选评分决策模型(如 Jev 与开源的 JevAny)的有限样本风险,分析教师软目标、冻结预训练骨干和温度校准三种训练要素。学生模型会继承教师偏差,更多数据无法消除;固定表示只在明确样本量阈值以下降低风险;温度校准仅在教师系数方向正确时消除全部超额风险。在 CFPB 的 231,521 条信用卡投诉数据上,用结果训练的学生比教师决策成本低 8%,30B 模型 zero-shot 经重校准后仍逊于教师,且偏离 Luce 公理性条件 17.5 decibans。

  2. arXiv · cs.CL46

    Safety Mid-Training:将 LLM 安全内化为基础能力的新训练阶段

    研究提出安全中期训练(safety mid-training),在预训练与后训练之间利用与通用任务共享的推理结构联合培养安全与通用推理能力。在 Qwen3-1.7B、4B 和 8B base 模型上,平均攻击成功率(ASR)相对降低 72% 至 81%,同时通用能力有所提升。经过纯通用 SFT 或无安全奖励的 GRPO 后,安全收益仍保留,且后续 RL 能达到更优的安全-效用前沿。

  3. arXiv · cs.CL29

    ASTOR:用形式化文法评测与改进软约束优化的自动形式化

    研究者提出 ASTOR,一种推理时框架,先将自然语言决策问题映射为文法引导的抽象语法树(AST),再确定性地编译为可执行的优化代码,用于处理含硬约束与软约束的优化建模。同时发布聚焦软约束的自然语言基准 SoftOR,ASTOR 在该基准上取得同类单请求与多智能体 LLM 方法中最优的综合准确率,且在仅含硬约束的标准自动形式化基准上保持竞争力。代码与数据已开源。

  4. arXiv · cs.CL22

    AfriBED:面向低资源非洲语言的语音识别偏见评测数据集

    研究者推出 AfriBED,一个用于检测 ASR 系统性别与说话人类型偏见的评测数据集,覆盖 Bemba 和 Nyanja 两种低资源非洲语言。其中 Bemba 部分含 3928 条语音、约 9 小时、80 名说话人;Nyanja 部分含 6260 条语音、约 18 小时、127 名说话人。基线实验表明该数据集可有效检验目标语言中的属性偏见。

  5. arXiv · cs.CL66

    MemT-1.0 记忆基础模型发布,将记忆内化为模型原生能力

    研究团队发布 MemT-1.0 记忆基础模型架构,基于 Metis 和 Gated DeltaNet-2,通过 Mixture-of-Storage 扩展原生记忆容量,采用继续预训练加后训练的两阶段训练流程,训练数据 34B tokens,提供 Nano 和 Flash 两个版本。评测显示其平均优于参数化记忆基线、与检索增强方法相当,在 128K tokens 历史长度下 MemT-1.0-Nano 相比全上下文 KV cache 实现约 1.86 倍端到端推理加速和 66 倍持久存储缩减,论文链接 https://arxiv.org/abs/2610.26825v1。

    推荐理由:原文给出记忆基础模型的架构设计、训练数据和评测对比,读者可以据此了解把记忆内化为模型计算的具体做法与代价。

  6. arXiv · cs.CL40

    RefCraft:通过网页开发评测视觉参考条件下的智能体生成能力

    arXiv 论文提出 RefCraft 基准,包含 300 个多模态网页开发任务,将自然语言指令与 1-5 个参考网页截图结合,评测智能体解读视觉参考并迭代优化生成结果的能力。在 9 个前沿(M)LLM 上,最强系统总分仅 52.12/100,表明视觉参考条件下的智能体生成对当前模型仍是重大挑战。评测采用可独立验证的 keypoints 以及程序化与 VLM 裁判。

  7. arXiv · cs.CL36

    KEEP-Bench:评估上下文压缩中的证据保留能力

    KEEP-Bench 是一个诊断性基准,通过 4,102 个案例直接评估上下文压缩的证据保留忠实度。实验显示,即使输入平均仅 3.1K token,最强开源模型(31B)保留全部所需证据的比例也只有 66.8%,最强闭源模型为 61.6%。论文还提出 EPR 指标,发现证据召回在 4B-8B 中等规模达到峰值,主张未来研究应在小计算预算下提升信息保留能力。

  8. arXiv · cs.CL63

    WildAWM 论文提出计算机使用智能体环境合成流水线

    论文提出 WildAWM,一条用开源模型合成计算机使用智能体(CUA)可执行环境与任务的流水线,环境同时支持 GUI、MCP 服务和命令行三种交互接口。流水线产出 341 个长程环境任务对,部分需超过 100 步求解,GPT-6-Astra 仅解出 60%;仅在这些合成环境中训练的两个不同规模 Qwen 模型,在 8 个覆盖 web、claw 和 computer-use 的域外基准上均取得明显提升,代码已公开。

    推荐理由:论文给出用开源模型合成计算机操作环境的完整流水线和质量门方法,训练效果覆盖 8 个域外基准,方法可迁移到环境合成类工作。

  9. arXiv · cs.CL52

    arXiv 论文揭示混合架构中的竞争学习现象并提出分阶段预训练方法

    arXiv 论文 2610.26830 揭示混合架构语言模型中的竞争学习现象:不同 mixer 层竞争学习同一函数,胜者会抑制其他层的学习信号。层级归因显示现代循环层比 softmax attention 更快学会检索函数,导致 attention 多数情况下学不到检索;在训练中途停止循环层的权重更新可帮助 attention 学会检索。据此提出的分阶段预训练方法在最高 1B 参数模型上显著改善语言建模损失、常识推理和多种上下文长度下的检索任务。

    推荐理由:论文指出现代循环层与 softmax attention 在训练中竞争学习检索函数并互相抑制,提出的分阶段训练方法在 1B 参数规模上验证有效。

  10. arXiv · cs.CL45

    LatComm:面向大语言模型间潜在通信的可复用上下文压缩

    研究者提出 LatComm,一种大语言模型间潜在通信接口:冻结的编码器 LLM 将上下文压缩为固定大小数据包,接收方 LLM 通过 cross-attention 按问题读取。在 12 个多选题问答数据集上,其平均准确率比单向量基线最高提升 10.2 分;在 QuALITY 上将接收方输入减少 57x,回答同一文章的多个问题速度快 3x。

  11. arXiv · cs.CL54

    WeAct 论文提出动态权重切换作为 Agent 内部动作

    Rui Shi 等发布 arXiv 论文 WeAct,在冻结骨干上训练能力专属 LoRA 适配器,并把适配器选择加入 Agent 动作空间,用原生 tool-calling 接口按需组合能力。在 8 个 deep-research 基准上,Qwen3-32B 加 WeAct 比全量微调平均准确率高 6.2% 且计算更少,比最强静态 LoRA 合并方法高 27.5%,并支持不改动骨干的模块化持续扩展。

    推荐理由:把适配器选择纳入 Agent 动作空间来缓解灾难性遗忘,在 8 个 deep-research 基准上给出了与全量微调的对比数字。

  12. arXiv · cs.CL32

    FunCAD-Harness:让 LLM 智能体合成真正可用的功能性 CAD 机构

    针对 LLM 智能体生成的 CAD 装配体往往徒具外观、无法实现物理功能的问题,研究者提出 FunCAD-Harness,将抽象需求转化为针对候选设计的物理测试,并利用仿真反馈迭代修正设计。团队同时发布覆盖 46 个机构族的 FunCADBench 基准。实验显示,该框架能发现视觉检查难以察觉的机械失效,功能成功率显著超过标准仿真增强基线。

  13. arXiv · cs.CL56

    OpenVLHarness:结合多模态记忆的视觉智能体工具使用框架

    论文提出 OpenVLHarness,一个围绕能力层与持久多模态记忆组织的多模态推理框架,统一调用异构工具并把输出转为模型可读证据。在 22 个基准、8 个开源与专有骨干上评测,平均比无工具基线提升 9.7-12.6 分,如 Qwen3-VL-8B +11.2、Kimi K3 +9.7、GPT-6 Astra +9.9;用 GPT-6 Luna 中等推理强度时以最多 37% 的模型 token 成本超过最大推理强度下的基线模型、Codex 和 Visual Sketchpad 7.7-8.5 分。

    推荐理由:论文在 22 个基准上用八个骨干实测工具调用加多模态记忆的增益与 token 成本,方法和数字都可对照复核。

  14. Hugging Face · 趋势模型69

    Recursive 发布 MoE 编码智能体模型 Flint,unsloth 上线 GGUF 量化版

    Recursive 发布了面向编码智能体的 MoE 语言模型 Flint,总参数 39.8B、每 token 激活约 2.5B,在 Terminal-Bench 2.1 得 54.9%、SWE-bench Pro v2 得 89.7%、SWE-bench Verified 得 74.2%。模型采用 256 路由专家加共享专家、49 层(2 稠密 + 47 MoE)、262,144 token 上下文,以 Apache 2.0 许可发布,附 BF16 检查点、SGLang 服务套件及面向 NVIDIA 和 Apple Silicon 的量化版本,unsloth 提供 GGUF 格式和运行指南。

    推荐理由:官方模型卡给出了架构细节、评测设置和基准分数来源标注,读者可以据此了解这款小激活参数编码智能体模型的实际规格。

  15. Ollama Blog52

    Cloudflare 27B 多模态决策模型 Clef 上线 Ollama,本地与云端均可运行

    Cloudflare 的 27B 多模态决策模型 Clef 已在 Ollama 上线,用户可本地运行或使用 Ollama 云端。该模型从 Qwen3.8-27B 微调而来,以 Apache 2.0 协议开源,支持文本、JSON 与图像输入,可一次读取输入并同时对所有问题的答案打分,兼容 Jev 和 System One API。官方称其登顶 Cloudflare 的 Decision Index,在 Jev benchmark 套件多数项目上超过 Jev,例如 BFCL case exact 98.47 对 95.75;43 个评测的延迟中位数为 209.3ms(Clef-flash 为 38.8ms)。

    推荐理由:官方发布了多模态决策模型 Clef 的完整基准与延迟数据,读者可以直接对比它和 Jev 等模型在各场景的实际表现。

  16. Hugging Face · 新模型:uncensored27

    Qwen3.8-27B-Uncensored-MLX-6-bit 模型发布

    Hugging Face 上发布 bi0h4z4rd88/Qwen3.8-27B-Uncensored-MLX-6-bit,一个基于 Qwen3.8 的 27B 6-bit MLX 量化无审查模型,支持图像输入。页面给出 mlx-vlm 加载与生成示例,并说明可通过 mlx_lm.server 启动本地 OpenAI 兼容服务器,接入 Pi、Hermes Agent 和 OpenClaw 等工具。

  17. Hugging Face · 新模型:uncensored58

    Qwen3.5-9B 微调去对齐版 The-Defiant-Fable 发布,附 GGUF 量化与拒绝率数据

    DavidAU 与 Nightmedia 发布基于 Qwen3.5-9B 的多阶段微调合并去对齐模型 Qwen3.5-9B-The-Defiant-Fable-Uncensored-Heretic,提供 16bit 源权重及 NEO IMATRIX 常规与 MTP GGUF 量化。作者称该模型在 7 项基准上超过 Qwen3.5-9B 与 Qwen3.5-27B,ARC-C 达 0.649(bf16);去对齐方面 KL 散度 0.0793,100 次请求中拒绝 6 次(原模型 100 次),支持 256k 上下文与视觉(需另下 mmproj 文件),MTP 量化在 5090 上 Q4_K_S 可超 185 t/s。

    推荐理由:作者给出 KL 散度和 100 次请求中 6 次拒绝的实测数据,可对照原模型判断去对齐程度。

  18. Hugging Face · 新模型:uncensored34

    mecha-factory 发布 Qwen3.6-35B-A3B-Uncensored-MTP-GGUF 量化模型

    mecha-factory 发布 Qwen3.6-35B-A3B-Uncensored(HauhauCS Aggressive)Q4_K_M GGUF 文件,将 unsloth 转换的 MTP 头嫁接到 HauhauCS 的去审查模型上,供 llama.cpp 以 --spec-type draft-mtp 进行投机解码。未做任何重训练或重量化,block_count 从 40 变为 41;Apple Metal 上接受率实测 0.79–0.86,CUDA 上约 0.6。文件按 Apache License 2.0 开源。

  19. Hugging Face · 新模型:uncensored47

    NeosQ 发布 Qwen3.8-Flash-Next-Uncensored 的 MTPLX 优化速度量化版

    NeosQ 基于 OrcaRouter 去审查的 Qwen3.8-Flash-Next(125B-A6B MoE)BF16 权重,用 MTPLX Forge 按 flash-next-optimized-speed 配方制作 4-bit 量化版,总大小 115.3 GB,保留原生 MTP 投机解码头。在 M5 Max 128 GB 上 MTP 投机解码达 85.7 tok/s,为普通解码的 2.07 倍;需 Apple Silicon、macOS 14+ 及 96–128 GB 统一内存,支持 OpenAI/Anthropic 兼容 API,采用 Apache 2.0 许可证。

  20. Hugging Face · 新模型:uncensored48

    DeepSeek-V4.1-Flash-1017-MXFP4-uncensored 量化模型基准测试数据发布

    Hugging Face 上发布 DeepSeek-V4.1-Flash-1017-MXFP4-uncensored 的性能测试数据,对比 Native MXFP4、NVFP4 target、EXL3 2.875 与 EXL3 3.5 四种配置在 1-32 并发下的 chat 吞吐与延迟。Native MXFP4 在 32 并发时达 831.66 tokens/second,为各配置中最高;EXL3 3.5 在 32 并发时为 480.84 tokens/second。

  21. Hugging Face · 新模型:uncensored21

    Gravelrat 发布 L3.1-Dark-Reasoning-LewdPlay-evo-Hermes-R1-Uncensored-8B-IQ4_NL-GGUF 量化模型

    Gravelrat 在 Hugging Face 上发布 L3.1-Dark-Reasoning-LewdPlay-evo-Hermes-R1-Uncensored-8B-IQ4_NL-GGUF,为 8B 参数、IQ4_NL 量化的 GGUF 无审查模型。页面给出 Transformers、llama.cpp、vLLM、SGLang、Ollama、Docker Model Runner、Lemonade 等多种运行方式,其中 llama.cpp、Ollama、Docker 等可直接以 IQ4_NL 量化版本拉取运行,vLLM 与 SGLang 均支持 OpenAI 兼容 API 调用。

  22. Hugging Face · 新模型:uncensored44

    Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive 发布

    HauhauCS 在 Hugging Face 发布基于 Qwen3.6-35B-A3B 的去审查版模型 Aggressive 变体,0/465 拒答,不改动数据集与能力。该模型为 MoE 架构,总参数 35B、每 token 激活约 3B,原生 262K 上下文,支持文本、图像、视频多模态。提供 Q8_K_P 到 IQ2_M 多种 GGUF 量化(K_P 量化以约 5-15% 更大体积提升 1-2 级质量),兼容 llama.cpp、LM Studio 等 GGUF 运行时。

  23. Hugging Face Blog57

    Hugging Face 发布 TorchNeuron:Transformers 等库原生支持 AWS Trainium

    Hugging Face 宣布 TorchNeuron 为 PyTorch 在 AWS Trainium 上的原生后端,自 2026 年 10 月 20 日起开放公测,可通过 pip install torch-neuronx 安装。

    推荐理由:官方给出了 TorchNeuron 与 Optimum Neuron 的模型支持率对比和可直接复用的推理与训练脚本,便于评估是否迁移到 Trainium。

  24. Hugging Face · 新模型:abliterated24

    Huihui-Qwen3.8-27B Swift-1.5 Abliterated IQ3_S + DFlash2 NInfer v3 社区转换版发布

    SPK1337 在 Hugging Face 发布 Huihui-Qwen3.8-27B 的 NInfer v3 社区转换版,打包 abliterated Swift-1.5 GSQ-RCO IQ3_S 文本权重(含 MTP)、z-lab 的 DFlash2 draft adapter 和 Qwen3.8-27B vision projector,文件约 13.99 GiB,采用 Apache-2.0 许可。该 artifact 仅供 NInfer-all 运行时加载,不能通过 transformers.AutoModel 直接读取;本地验证 HTTP 端点可正常返回文本,但 DFlash2 接受率、tokens/second 等尚未 benchmark。

  25. Hugging Face · 新模型:uncensored67

    dealignai 发布 DeepSeek-V4.1-Flash-1017 无对齐 EXL3 3.5bpw 版本

    dealignai 基于 LibertAI 的 EXL3 3.5bpw 量化包(257.6 GB)发布 DeepSeek-V4.1-Flash-1017 无对齐版本,移除拒绝行为,支持 6 种语言、131K 上下文,保留视觉权重、MTP 头与 n-gram 表。实测 HarmBench-320 在 chat 与 thinking 模式均 320/320 全部 COMPLY,MMLU-500 从 67.60% 降至 64.80%(-2.80 pp)。在 RTX PRO 6000 上经 exllamav3-anemone + TabbyAPI 实测约 55 tok/s 解码,并建议如需更低比特应重新跑 abliteration 流程而非直接重量化。

    推荐理由:原文给出 MMLU 与 HarmBench 的前后对照数据,读者可以据此评估这个去对齐版本在拒绝率与能力之间的取舍。

  26. Hugging Face · 新模型:uncensored68

    GLM-5.3-Flash 无对齐 FP8 版发布,HarmBench-320 拒绝率 0%

    dealinai 以 CRACK 权重级消融方式发布 GLM-5.3-Flash 的无对齐 FP8 版本,直接在张量中移除拒绝行为,不用微调、LoRA 或模板技巧。HarmBench-320 贪心解码 320/320 全部服从(0% 拒绝),MMLU 87.33% 高于基座 86.74%;模型为 320B 总参数、每 token 激活 18B 的混合 MoE,1M 上下文,H200 上原生 FP8 解码 163 tok/s,MTP 投机解码 211 tok/s、接受率 75.9%。消融在 reasoning-off 和 max 档完全无对齐,low 档保留部分拒绝;2026-08-28 更新修复了重复循环问题,需重新下载。

    同一新闻,精选展示《GLM-5.3-Flash UNCENSORED FP8 发布,权重级去对齐且 MMLU 反超基座》

  27. Hugging Face · 新模型:uncensored72

    dealignai 发布 DeepSeek-V4.1-Flash 无对齐 FP8 权重版

    dealignai 团队发布基于 deepseek-ai/DeepSeek-V4.1-Flash(552B backbone,8B/16B active)的权重级消融版本 DeepSeek-V4.1-Flash-UNCENSORED-FP8,以原生 FP8 权重提供,无自定义 model.py 或运行时钩子。HarmBench-320 实测 CRACK 版在 effort=off 和 max 下均 100% 响应、零 HARD_REF/SOFT_RED/HEDGE,而基座在 effort=max 下拒绝率反而升至 1.56% 响应;MMLU-14k 全集准确率从 86.96% 降至 82.74%,剔除伦理类条目后约 -1.1 pp。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-UNCENSORED-FP8 发布:权重级消融版附拒绝率与 MMLU 对比》