跳到正文
10月16日周五
  1. arXiv · cs.CL51

    arXiv 论文提出 LED:用 Lookahead Editing 改进掩码扩散语言模型

    arXiv 论文提出 Lookahead Editing(LED),在掩码扩散模型的解码中加入可重写的提案状态,让模型在提交 token 前多次前瞻更新以提升表达能力,同时保留易于优化的掩码转移调度。作者基于 Qwen2.5-7B 和 Qwen3-8B 微调得到 LED-7B 和 LED-8B,在八项基准上 LED SFT 平均比标准 MDM SFT 提升 +11.4 和 +7.7 分,且 LED-8B 仅用 SFT 就超过了经持续预训练、SFT 和强化学习训练的 LLaDA2.1-16B Q-mode。

  2. arXiv · cs.AI52

    WebCoder:基于工件锚定智能体强化学习的通用前端开发 Agent

    论文提出 WebCoder,一个用工件锚定智能体强化学习训练的通用前端开发 Agent,并构建可执行环境 Webdev-World 与评测集 Webdev-Bench。WebCoder-27B 在 Webdev-Bench 上把需求满足分从基座 Qwen3.8-27B 的 64.8 提升到 72.8,超过 Claude-Opus-4.8(65.1)和 GPT-5.4(59.6);在 Vision2Web 上平均视觉与功能分从 41.1 提到 62.4,与 Claude-Opus-4.8 相当。消融实验验证了工件锚定信用分配与长程训练的贡献。

    推荐理由:论文提出以共享可执行工件为核心分配奖励与信用,并给出对齐 Claude 等闭源模型的实测分数,方法可迁移到长序列开发任务。

  3. arXiv · cs.AI48

    重新思考 GRPO 在大型推理模型安全对齐中的应用并提出 Beacon 框架

    论文指出 GRPO 用于大推理模型安全对齐时存在优势坍缩与不安全多样化两种失效模式,并提出包含 Safety Signal Recovery 与 Safety-Utility Decoupled Alignment 的 Beacon 框架。在 Qwen3 与 DeepSeek-R1-Distill 四个变体、八个 benchmark 上的实验显示,平均安全误差最多降低 32.83 个百分点,同时保持较低过度拒答。

  4. Hugging Face · 趋势模型64

    ornith-ai 发布端到端自我改进的 Ornith-1.5-122B 开源模型

    ornith-ai 发布 Ornith-1.5-122B,一个 122B MoE 模型,将 Ornith-1.0 的自我改进循环扩展到联合优化任务生成、scaffold 构建和解题 rollout,通过强化学习持续生成训练任务并改进策略。模型支持 262,144 tokens 上下文(YaRN 缩放后约 1M),可单张 80GB GPU 部署,并提供量化 Mobile 变体。基准中 SWE-bench Verified(non-hack)84.5、TerminalBench 2.1 为 81.2,评测采用防 reward hacking 措施并以 Claude Opus 作为 judge。

    推荐理由:模型卡同时给出多基准成绩与防 reward hacking 的评测细节,读者可对照同参数量级模型比较编码与智能体表现。

  5. Hugging Face · 新模型:abliterated38

    glivorem 发布 Qwen3-4B-Instruct-2507-abliterated 去拒绝版本

    glivorem 用 Heretic 工具对 Qwen3-4B-Instruct-2507 做 abliteration 处理,通过方向消融直接编辑权重移除模型的拒绝行为,未做新数据微调,知识与通用能力接近原版。模型为 4B 参数非思考 instruct 模型,262k 原生上下文,BF16 safetensors 格式,Apache 2.0 许可,可在 vLLM 和 Transformers 中使用,无内置安全护栏。

  6. arXiv · cs.CL43

    Multi-SFT:可商用许可的多语言指令遵循数据集

    研究者推出 Multi-SFT,一个可商用的监督微调数据集,含 502,818 条指令-回复对,覆盖五种欧洲语言。人工评估显示各数据集与语言间标注者一致性至少 0.87。对 EuroLLM、OLMo 2、Qwen3 三个家族的 9 个模型(1B-32B)微调并在 13 个 benchmark 上评估,结果显示仅用 Multi-SFT 即可与更大的增强混合数据集及官方指令微调版本竞争,在安全任务上优势明显。

  7. arXiv · cs.CL34

    CLUE:挖掘社交语境以提升语用理解

    研究者提出 CLUE,一个结合监督式证据推理与 GRPO(以 Grounded Information Utilization 为奖励)的两阶段训练管线,让模型自主发现对话中支持语用理解的关键线索。相比基础 Qwen,CLUE 在平均加权 F1 上域内相对提升 17.3%、域外提升 9.3%,且推理 token 平均减少超过 80%。人类评估显示其解释更多锚定于具体对话内容,引用证据与人类所选语境更一致。

  8. Hugging Face · 新模型:uncensored56

    HauhauCS 发布 Qwen3.8-27B 无对齐 Aggressive GGUF 量化版,附 FastMTP 加速

    HauhauCS 在 Hugging Face 发布 Qwen3.8-27B 的无对齐 Aggressive 变体 GGUF 量化,实测 0/465 次拒绝,直接作答且几乎无前导语。全系列保留原生 NextN 头并附带 FastMTP 32K 加速 sidecar,在 Q8_K_P 上文档 TG 最高达非 MTP 的 3.02x、推理 TG 1.93x,比标准内嵌 MTP 再快 35.2%/21.1%;提供 Q8_K_P 到 IQ2_M 多档量化与 BF16 视觉 projector,基于 Apache 2.0 许可,需 llama.cpp 补丁启用 FastMTP。

    同一新闻,精选展示《HauhauCS 发布 Qwen3.8-27B 无对齐 Aggressive GGUF 量化版》

  9. Hugging Face · 新模型:abliterated22

    eccentricorbit 发布 Qwen3-4B-Instruct-2507-abliterated 去审查模型

    eccentricorbit 基于 Qwen/Qwen3-4B-Instruct-2507 用 Heretic 制作了 abliterated 版本,通过 directional ablation 直接修改权重移除模型的拒绝行为,未做新数据微调,知识与通用能力接近原版。模型为 4B 参数、262k 原生上下文的非思考 instruct 模型,BF16 safetensors 格式,Apache 2.0 许可,可在 vLLM 和 Transformers 中使用,无内置安全护栏。

  10. arXiv · cs.CL45

    DPA-MoE:面向 MoE 推理的运行时精度控制框架

    研究者提出 DPA-MoE,一个运行时精度控制框架,让 MoE 模型中被路由的专家支持任意精度。该方法用 SharedScale AnyBCQ 将专家前馈权重编码为可前缀解码的分块,并在推理时依据实时 router gate 分数分配。在 Qwen3-30B-A3B 和 DeepSeekMoE-16B 上的实验显示,相同预算下 DPA-MoE 比均匀分块分配改善了 KL 散度和下游准确率,原型系统稳态吞吐开销适中。

  11. arXiv · cs.CL40

    可写性与通路:面向寻址记忆的知识注入受控研究

    一项受控研究考察向寻址条件记忆事后注入知识的可行性,结合 GPT-2 对照实验与 Qwen3.8-Flash-Next-FP8、DeepSeek-V4.1-Flash 的生产记忆实验。GPT-2 各实验组均能复现 50 条训练补全,但自然问题目标串命中平均仅 5.3%(row-only)、28.7%(无锚定投影更新)、22.0%(有锚定),严格答案得分均为零。结果显示写入可行但有边界,首 token 排名提升不代表完整答案成功。

  12. arXiv · cs.AI20

    用嵌入模型与 LLM 精炼本体:CASTON 铸造领域案例研究

    研究者提出一种结合微调本体嵌入模型与 LLM 的轻量级本体精炼流程,用于修复 CASTON 铸造领域本体中的类层级 subsumption 错误。嵌入模型提取待修正候选公理及替换候选,再由 LLM 给出修复建议。在专家评估中,使用 CASTON 微调的 OnT 嵌入模型与 Qwen3-8B 的默认配置产生的六个高置信度替换全部被两位领域专家接受,实现代码已开源。

  13. arXiv · cs.AI42

    FlashAttention with Statistics:面向紧凑幻觉检测器的低开销注意力特征

    研究者提出在 FlashAttention 前向传播中直接累积注意力统计量,无需显式构建注意力矩阵,用于训练紧凑幻觉检测器。在 H100 上,五个已发表检测器所需统计量对 Qwen3-8B 前向(2K token)仅增加 16% 延迟,35K 时降至 1.4%,每 response token 存储 22.5 KiB。基于 0.6B–8B 冻结 Qwen3 代理模型训练的探针表现强劲:4B 代理在三个 benchmark 中的两个上 F1 超过九个最强零样本 4-9B LLM 评判,注意力特征在 12 组 benchmark-代理配对的一半中显著提升 F1。

  14. arXiv · cs.AI29

    ClaimScope:面向数学命题审计的标签盲见证验证基准

    arXiv 论文提出 ClaimScope,一个包含 72 个任务的基准,通过裁决、范围、反例和修复审计数学智能体提出的命题,并评估 Qwen3-8B 在直接生成与四种两轮条件下的表现。结果显示,验证器反馈使无效命题的反例接受数从 15/39 提升至 23/39,安全完成数从 20/72 提升至 25/72,而严格完成保持 17/72,裁决准确率从 47/72 变为 46/72。该论文已被 NeurIPS 2026 Workshop(Mathematical Reasoning and AI)接收。

  15. arXiv · cs.AI38

    Qwen-Audio-Jev:用于音频决策的统一接口

    研究者在 Qwen-Audio-3.1-ASR-Flash-Next 基础上加入专用 Jev 决策头,推出 Qwen-Audio-Jev,通过 CHOICE、NOUL、SCORE 三种决策原语统一音频选择、二值判断与评分。模型在 MMAU-mini 上达到 78.70% 准确率、MMSU 上 84.06%,VoxCeleb1-O 等错误率 6.50%,NISQA 归一化平均绝对误差 0.1062。相比原模型推理速度提升约 20 倍,适用于大规模音频筛选、说话人验证和自动质量评估等高吞吐场景。

  16. Hugging Face · 新模型:uncensored40

    Qwen3.5-2B-Uncensored-HauhauCS-Aggressive 发布:无审查版 Qwen3.5-2B

    HauhauCS 基于 Qwen3.5-2B 发布无审查变体 Aggressive 版,约 0/465 次拒绝,号称零能力损失且不改动数据集。模型为 2B dense 参数、24 层混合架构(Gated DeltaNet 线性注意力 + 全 softmax 注意力 3:1),原生多模态,262K 上下文(YaRN 可扩展至 1M),提供 BF16 至 Q4_K_M 共 4 种 GGUF 量化,支持 llama.cpp、LM Studio 等运行时。

  17. Hugging Face · 新模型:uncensored40

    Qwen-Image-2.1 Uncensored 量化版发布,提供 GGUF/Safetensors/MLX 多格式本地图像生成

    DollasAndSpence 发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式,支持 ComfyUI 本地图像生成。该版本无内置安全检查器,可直接生成成人及 NSFW 内容;推荐 GGUF 使用 Q4_K_M(4.60 GB),MLX 格式针对 Apple Silicon 优化,文本编码器可卸载至系统内存以节省 9–17 GB VRAM。

  18. Hugging Face · 新模型:uncensored28

    Qwen3.8-Flash-Next 无审查版 Q4_K_M .basalt 包发布(Hugging Face)

    Hugging Face 上发布了一个可直接运行的 .basalt 格式包,为无审查版 Qwen3.8-Flash-Next 的 Q4_K_M 量化构建,基于 125B 级 MoE 模型(qwen4exp 架构),文件大小 114.06 GiB,内置 Qwen tokenizer 与聊天模板,支持 --vision 图像输入。运行需 NVIDIA Blackwell GPU(compute capability 12.0)与 CUDA 13;在单张 RTX 5090 上 512k 上下文解码约 220 tok/s、prefill 约 5,900 tok/s。该仓库目前为私有测试状态,采用 Qwen Community License 1.0。

10月15日周四
  1. arXiv · cs.AI51

    HP-RLVR:无需组采样的单 rollout token 级信用分配方法发布于 arXiv

    Wei Chen 等人在 arXiv 发布 HP-RLVR(Hindsight-Privileged RLVR),用已完成轨迹自身的未来信息生成 token 级更新权重,替代 GRPO 的组采样。方法对每个 token 在因果历史与含验证器反馈的后见上下文两种视角下打分,以归一化 Jensen-Shannon 散度加权奖励,成功与失败轨迹都有有界信用,无需参考答案或 critic。在共享 100 步 schedule 的 Qwen3-8B 配对实验中,HP-RLVR 在数学、代码生成和 ALFWorld 上分别比 GRPO 快 1.21x、1.46x 和 2.30x,每 prompt rollout 用量为八分之一;总体准确率相当,数学上 HP-RLVR 领先,代码与 ALFWorld 上 GRPO 领先。

  2. arXiv · cs.AI42

    CriticOPD:通过批评引导的在线蒸馏恢复可靠监督

    论文提出 CriticOPD,改进在线蒸馏(OPD)。OPD 假设教师模型能从学生写的任意前缀推出正确答案,但该可恢复性在错误 rollout 上失效——教师会跟随学生错误。CriticOPD 让教师对错误 rollout 给出批评,学生据此重写解答,教师评分时将批评作为特权信息,学生训练时则不含批评。在两个 Qwen3 学生模型和六个数学推理基准上,CriticOPD 均优于 OPD,竞赛题提升最大。

  3. arXiv · cs.CL47

    TreeSpark:为推测解码学习“可验证的”草稿树

    TreeSpark 是一个扩展 DSpark 半自回归架构的推测解码训练与推理框架,通过单次 backbone 前向构建父节点条件候选树,并用 survival NLL 与 capped coverage hinge 两个目标监督树的扩展、剪枝与打包,无需额外 target 前向。在 Qwen3-4B 与 Qwen3-8B 上的九个通用基准和六个写作域评测中,TreeSpark 较 DSpark 将平均接受长度提升 23.4%–31.6%,单请求吞吐提升 15.1%–25.0%,批量 Qwen3-4B 吞吐提升 12.6%–17.2%。

  4. arXiv · cs.CL43

    面向类型化决策模型的选择性推理:何时开始、读取与停止

    研究在冻结的 Qwen3.5-4B 骨干上训练共享候选答案读取器,统一直接决策与按需可中断推理,通过 benefit gate 启动推理、自然状态触发显式读取、熵规则接受答案并取消生成。在 ProofWriter、LogiQA 2.0 和 ARC-Challenge 共 768 道题上,准确率从直接读取的 70.96% 升至 84.38%;相比 512-token 终端读取提升 7.29 个百分点、平均输出开销仅增 2.25%,相比 1,024-token 终端读取流水线时间下降 46.30%。

  5. arXiv · cs.CL52

    SRP-SFT:通过选择性边距保持改进监督微调

    论文提出 Selective Rank-Preserving SFT(SRP-SFT),用基于参考缩放下界的 hinge 软目标在 teacher-forced 前缀处保持选定的非目标 token 边距关系,并推导了违反边距的 KL 代价、可行域及有限步降低总违反的条件。在 Qwen3-4B-Base 与 UltraFeedback 的一轮实验中,三个训练种子下 MATH-500 和代码生成分数均超过 CE 与 LP-SFT;种子 1234 下 MATH-500 pass@1 从 49.56% 升至 54.56%,四指标代码均值从 65.91% 升至 69.50%。论文还给出排序对照、held-out 缓存诊断、敏感性扫描及六个额外骨干上的验证。

    推荐理由:论文给出 SRP-SFT 的可行域刻画与多种子实验数据,读者可对照 CE 和 LP-SFT 评估该微调目标的实际收益。

  6. arXiv · cs.CL45

    Qwen-MT-Lumen 参加 WMT2026:基于质量感知训练与在线蒸馏的指令专用翻译

    阿里团队推出开源翻译模型 Lumen,参加 WMT 2026 通用机器翻译任务,专注满足术语、风格和结构化输出等细粒度指令要求。模型基于 Qwen3-14B,采用四阶段流程:继续预训练与监督微调、将 M²PO 扩展为在线偏好优化、从更大教师模型做 on-policy 蒸馏,以及结构感知推理与修复。在 23 个翻译方向上,按 1–5 分 LLM-judge 评分取得 4.60 的总体均分,表现与领先闭源系统相当。

  7. Hugging Face · 新模型:uncensored36

    Qwen-Image-2.1-Uncensored 量化版发布,支持 ComfyUI 本地图像生成

    Dariusdup 在 Hugging Face 发布 Qwen/Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 格式,其中 Q4_K_M GGUF 为 4.60 GB 并被推荐为体积与质量的最佳平衡。该版本无内置安全检查或内容过滤,可直接生成成人及 NSFW 图像;配套 qwen3vl_8b 文本编码器与 VAE 文件,通过 ComfyUI 与 ComfyUI-GGUF 使用,文本编码器可卸载到系统内存以节省 9–17 GB 显存。

  8. Hugging Face · 新模型:uncensored23

    zviratko/Qwen3.8-Flash-Next-Uncensored-plefp8 发布

    zviratko 在 Hugging Face 发布 Qwen3.8-Flash-Next-Uncensored-plefp8,基于 ddark-il/Qwen3.8-Flash-Next-Uncensored 的量化权重,并移植了 FP8 PLE n-gram 表。作者称该实验性模型在 intelligence benchmark 上与原量化模型结果基本相同,主观上保持连贯,但更小损失的 PLE 表数据效果未知。模型采用 Qwen Community License 1.0,使用前需查看附带许可证。

  9. Hugging Face · 新模型:abliterated41

    Huihui-Qwen3.8-27B-abliterated-GGUF:Qwen3.8-27B 去审查版本发布

    huihui-ai 基于 Qwen/Qwen3.8-27B 通过 abliteration 技术去除拒绝回复,发布 Huihui-Qwen3.8-27B-abliterated-GGUF 无审查版本,仅消融部分层(如第 22 至 52 层,0 起始索引),其余层保持原样。提供 Q2_K_L 至 Q8_0_L 等多种量化格式,其中低精度版本将 token_embd、output、ffn_down 等需消融权重转回 Q8_0 或 BF16 以提升回复质量;MTP 与视觉部分未改动。可通过 ollama(huihui_ai/Qwen3.8-abliterated)或最新 llama.cpp 运行,支持 -c 262144,模型安全过滤大幅降低,建议仅用于研究测试环境。

10月14日周三
  1. Hugging Face · 新模型:uncensored39

    Qwen-Image-2.1 Uncensored 量化版发布,支持 GGUF/Safetensors/MLX 本地图像生成

    Hugging Face 上发布 Qwen-Image-2.1 Uncensored 的多种量化格式,基于 Qwen/Qwen-Image-2.1 原始权重,提供 GGUF、Safetensors 和 MLX 格式,其中 Q4_K_M(4.60 GB)为 GGUF 推荐版本,MLX 格式针对 Apple Silicon 优化。该版本无内置安全检查器,可直接生成成人及 NSFW 图像,需配合 ComfyUI 与 ComfyUI-GGUF 使用,文本编码器 qwen3vl_8b 可卸载至系统内存以节省 9–17 GB 显存。

  2. Hugging Face · 新模型:uncensored31

    Qwen-Image-2.1 Uncensored 量化版发布,支持 GGUF/Safetensors/MLX 本地图像生成

    Hugging Face 上发布 Qwen-Image-2.1 的 Uncensored 量化版本,基于 Qwen/Qwen-Image-2.1 原始权重,提供 GGUF、Safetensors 和 MLX 格式,其中 Q4_K_M GGUF 为 4.60 GB 且被推荐为体积与质量的最佳平衡。该版本无内置安全检查或内容过滤,可直接生成成人及 NSFW 图像,配套 qwen3vl_8b 文本编码器与 VAE 文件,可在 ComfyUI 中通过 ComfyUI-GGUF 使用。

  3. Hugging Face · 新模型:abliterated30

    huihui-ai 发布 Huihui-Qwen3.8-27B-Coder390-EfficientThink-abliterated-GGUF 无审查版模型

    huihui-ai 基于 nerkyor/Qwen3.8-27B-Coder390-EfficientThink-Opus5.5-GPT6Astra-Grok4.7-DSV4Pro-K3-SFT-RLOO-MTP-DFlash2 发布 abliterated 无审查版 GGUF 模型,通过 abliteration 移除模型拒答行为。仅第 2 至 52 层被消融,支持 llama.cpp 以 262144 上下文运行。官方提示安全过滤大幅降低,建议仅用于研究或受控环境。

  4. arXiv · cs.AI47

    ReTerm:面向自我改进终端智能体的恢复训练方法

    研究者提出 ReTerm,一种通过学习从自身失败任务中恢复来实现自我改进的终端智能体训练方法,并构建了用于 SFT 冷启动的 ReTerm-10K 数据集和从失败状态分叉生成多次自恢复尝试的在线 RL 算法 ReTerm-GRPO。基于 Qwen3.5-9B 的 ReTerm-9B 在 Terminal-Bench 2.0 上取得 34.8% Pass@1,较基座模型提升 14.6 分,且在多类错误下的恢复率均高于标准 GRPO。代码、数据和模型已开源。

  5. Hugging Face · 新模型:abliterated34

    Huihui-Qwen3.8-27B-abliterated 2.65bpw 量化版上架 Hugging Face

    Derpyhue 发布 huihui-ai/Huihui-Qwen3.8-27B-abliterated 的 2.65bpw 量化版本,该模型是通过 abliteration 技术移除拒绝行为的 Qwen3.8-27B 无审查版本。最新更新仅对第 18 至 51 层做了消融,其余层保持原样以保留更多原模型性能,MTP 和视觉部分未改动,可通过 ollama 运行 huihui_ai/Qwen3.8-abliterated 或 transformers 加载使用。

  6. Hugging Face · 新模型:uncensored58

    xdfhg 发布 Qwen3.8-27B-Uncensored-Cyber 去拒绝版

    xdfhg 在 Hugging Face 发布基于 Qwen3.8-27B 的网络安全领域去拒绝模型 Qwen3.8-27B-Uncensored-Cyber,采用 recipe-v2 单向拒绝消融加 β=1.0 范数保持投影,仅对第 4 层起更深层处理,保留视觉塔与 MTP 投机解码头。bf16 评测显示 100 个 held-out 网络攻击提示全部开放(上一版为 93/100),confab 从 1.0 降至 0.867,事实准确率 1.0 优于上一版 0.933,GSM8K 持平且零退化,并提供 -W4A16-AWQ、NVFP4 及 llama.cpp GGUF 量化版本。

    推荐理由:原文给出 v2 配方与前后两版的拒绝率、事实准确率对照数据,可据此评估这版去拒绝在开放度与能力保留之间的取舍。

10月13日周二
  1. Hugging Face · 新模型:uncensored31

    Qwen3.5-9B-Uncensored-HauhauCS-Aggressive 发布:移除拒答的激进版去审查模型

    HauhauCS 发布 Qwen3.5-9B 去审查激进版模型,在 465 个拒答测试中约 0 次拒答,宣称零能力损失、不改动数据集,但可能在回复末尾附带简短免责声明。模型为 9B dense 参数、262K 原生上下文(YaRN 可扩展至 1M)、原生多模态,提供 BF16(17 GB)至 Q4_K_M(5.3 GB)多档 GGUF,支持 llama.cpp、LM Studio 等运行时。

  2. Hugging Face · 新模型:uncensored38

    Qwen-Image-2.1 Uncensored 量化版本发布,支持本地图像生成

    Hugging Face 用户 Joscio 发布 Qwen-Image-2.1 的 Uncensored 量化版本,提供 GGUF、Safetensors 和 MLX 多种格式,文件大小从 4.00 GB(MLX 4-bit)到 14.23 GB(BF16)不等,其中 Q4_K_M(4.60 GB)被推荐为体积与质量的最佳平衡。该版本移除内置安全检查器,可直接生成 NSFW 等敏感图像,需配合 ComfyUI 与配套的 qwen3vl_8b 文本编码器及 VAE 使用,遵循 Qwen Research License。