跳到正文
  1. arXiv · cs.CL55

    因果语音隔离器论文发布:22.1M 参数模型可在单 CPU 线程上实时运行

    论文训练了 140M/243M/374M 参数的因果语音隔离器,延迟 20 ms,可从通话本身注册来电者。将 WavLM-Large 权重改为因果并联合训练把开发集错误率从 11.44% 降至 10.55%;在长通话窗口上训练后发布版在干净开发集错误率为 2.96%,AMI 60 s 窗口实时错误率 16.13%(VoxLock 为 23.66%),Krisp 基准上为 5.74% 对 5.63%。蒸馏出的 22.1M 参数模型在 LiveKit agent 中单 CPU 线程实时运行,每通话占 33% 核心算力,错误率 10.66%;代码与模型已开源。

    推荐理由:论文给出了与 VoxLock、Krisp 的具体错误率对比和 CPU 端蒸馏模型,读者可以据此评估其语音隔离方案在真实通话里的适用性。

  2. arXiv · cs.CL52

    RoAR:用 rollout 一致性改进 GRPO 的推理训练

    论文提出 RoAR(Rollout-Agreement Reward),在 GRPO 对已验证正确 rollout 的奖励中加入推理层面的一致性信号,无需人工理由、额外采样或单独训练的过程评估器。126 对盲测配对分析显示低一致性正确轨迹的伪推理比例为 35%,高于高一致性的 22%。1.5B GRPO-RoAR 模型用 7K 训练样例在五个数学推理基准上零样本平均 pass@1 达 55.5%,比 GRPO 和 GRPO-CARE 分别高 6.0 和 5.5 个百分点,盲审中伪推理率为 18%,低于 GRPO 的 32%、GRPO-CARE 的 27% 和 DRA-GRPO 的 37%,代码已公开。

    推荐理由:论文用盲测配对数据说明正确答案中低一致性轨迹更常出现伪推理,并据此提出无需额外采样的 RoAR 奖励方法。

  1. GitHub · 3D 生成新仓库63

    code-model-reliability 开源代码模型能力与可靠性统一度量框架

    szymonkobus 发布 code-model-reliability 仓库,用贝叶斯失败率-难度曲线在同一难度尺度上同时度量代码模型的能力(D50)和可靠性(D99)。发布的拟合覆盖 71 个 arm、1,297 个任务、85,604 个 cell 和 850 万次尝试;仓库含 cmr 命令行流水线、任务集、每次尝试的判定记录和完整重拟合脚本,代码 MIT、数据 CC BY 4.0。

    推荐理由:用同一难度尺度同时刻画模型能力 D50 和可靠性 D99,覆盖 71 个模型配置的可复现评测框架。

  1. arXiv · cs.CL63

    arXiv 论文发现 schema 中的最小条目数会让开放权重模型填充提取列表

    arXiv 论文测试了八开放权重模型在 558 份真实文档上的 JSON 提取行为,发现 schema 中未被强制执行的最小条目数会让超过真实数量的列表占比从 34.5% 升至 55.4%。约一半填充条目来自文档原文,难以被校验发现;告知“少于也可”、散文式计数、提供 N/A 选项等修复方法效果有限,而用校验错误重问反而加剧填充。代码、答案列表与运行记录已开源。

    推荐理由:论文用预注册实验量化了 schema 最小条目数如何导致模型凑数虚报,并实测了几种常见修复方法的有效程度。

  2. GitHub · 灵魂体仓库63

    tatra-labs 开源 nano-pixelmoe:约 260 行实现像素空间扩散的 LLM 式混合专家

    tatra-labs 发布 nano-pixelmoe,用约 260 行代码独立实现 PixelMoE 论文(arXiv:2610.18857)方法,将 LLM 式 mixture-of-experts 原样迁移到无 VAE、无 tokenizer 的像素空间扩散。实现在 RTX 5060 Laptop 上训练,CIFAR-10 上 64.2M 参数(每 token 激活 27.0M)FID 26.43,与匹配激活参数的 dense 基线 26.73 在 10k 样本噪声范围内持平;展示了无辅助损失的负载均衡(最忙专家为平均负载 1.6 倍)及专家按内容和噪声水平分工的路由图。作者指出论文的收益出现在 200M+ 激活参数规模,并附完整训练与采样命令。

    推荐理由:作者在单卡笔记本 GPU 上复现了 PixelMoE 的 MoE 路由机制,并给出与 dense 对照的 FID 数据和平衡路由结果,代码可自行训练。

  3. GitHub · 去对齐工具与仓库57

    rag-context-attention:预注册实验测量 RAG 提示词长度与迭代检索收益

    MitushiG 发布预注册实验仓库 rag-context-attention,研究 RAG 场景下提示词长度与迭代检索的实际收益。实验在单张 RTX 4090 上用 Qwen2.5-7B-Instruct 完成,发现长度本身影响很小,30K token 无关文本下准确率仍有 83%(仅金标段落为 82%),真正伤害来自相似干扰项(30K 时下降 30 分,金标段落在中间时最差,39% vs 65%);金标段落上的注意力可预测答对(分层 AUROC 0.77);真实 top-k RAG 在 k=20 达到峰值 51.5%。

    推荐理由:预注册实验把提示词长度、干扰相似度与检索收益拆开测量,并给出可复现的实验代码与统计校正方法。

  4. GitHub · 灵魂体仓库59

    SurfBench 基准发布:用 50 个真实任务评测各网页访问 API

    riccardogiorato 发布 SurfBench 基准,用 50 个真实任务(分 4 个层级)统一评测 parallel、exa、tavily、firecrawl、keenable、linkup 等网页访问 API,检查各服务商能否找到并抓取正确页面。评分按质量 0.50、可靠性 0.35、速度 0.15 加权,使用固定的 MiniMax M3 读取模型和 Kimi K3 + GLM-5.3 评审面板,给出 95% 置信区间与每千个通过任务的成本列,完整结果包、任务检查器与方法论页面随仓库公开,MIT 协议,可自行运行复现。

    推荐理由:这是一个可直接复现的网页访问 API 评测基准,方法论、提示词与评分细则全部公开,还给出了置信区间与成本列。

  1. GitHub · 去对齐工具与仓库64

    barkup-bench:预注册基准系列实测 LLM 智能体编辑类型化树的可靠性

    Kevin Peckham 在 GitHub 开源 barkup-bench,一个持续进行的预注册基准系列,比较 barkup(HTML 整树重写)与 JSON 细粒度变更工具等方案在让 LLM 智能体编辑页面布局、文档模板、CMS 内容等类型化树时的可靠性。系列已含 45 项研究、8 个模型上超过 36,000 次评分运行,覆盖接口、树规模、部分上下文、检索、会话记忆、多目标编辑等维度,并保留两次重大修正与若干自我反驳。

    推荐理由:预注册协议加可复现语料和回归门禁的做法,为评测 LLM 智能体编辑结构化树提供了可迁移的实验纪律。

  1. GitHub · 去对齐工具与仓库71

    AgentVFS 发布 VFS-Bench 1.0:虚拟文件系统接口比 MCP 平均省 52% token

    AgentVFS 团队发布 VFS-Bench 1.0 基准,200 个任务(100 个来自 MCP-Atlas、100 个来自 Toolathlon)覆盖 46 个外部服务,每个任务分别通过 MCP 工具调用和虚拟文件系统 AgentVFS 各运行一次,任务文本、数据和评分器完全一致。结果显示虚拟文件系统平均减少 52% token,pass@1 从 77.6% 升至 81.6%,其中 Claude Opus 5.5 在 MCP-Atlas 上 token 减少 88%。基准用本地 fake 服务复现 API,每次运行前重置并重新播种数据,完整榜单和轨迹见 agentvfs.org,仓库地址 https://github.com/agentvfs/vfs-bench。

    推荐理由:同一任务在 MCP 与虚拟文件系统两种接口下各跑一遍并保留原始评分器,token 与 pass@1 的对比数据齐全,可复现。

  2. arXiv · cs.AI54

    Stratified Sparse Attention 论文提出确定性检索结合分数引导采样以缩小极端稀疏下与稠密注意力的差距

    Sahil Joshi 等在 arXiv 发布论文,提出 Stratified Sparse Attention(SSA),将确定性检索与分数引导采样结合以缩小稀疏注意力与稠密注意力在极端稀疏下的差距。在 RULER、LongBench、LOFT、AIME 及 3B 至 27B 五个模型上,SSA 均优于基线;RULER-HARD 用 Ministral-3-8B 在 50 倍注意力稀疏下,32K 和 128K 准确率从 81.8% 提至 84.2%、从 63.8% 提至 69.3%,分别恢复稠密注意力性能的 94% 和 85%。优化 CUDA 内核后,1M 上下文解码速度相对 FlashInfer 最高加速 2.96 倍,代码已开源。

    推荐理由:论文给出 SSA 在 RULER 等基准和 50 倍稀疏度下的精度与解码加速数据,方法可复用,代码已开源。

  3. arXiv · cs.AI52

    35B MoE 智能体模型 Sage-A1.5 发布技术报告

    Wenjie Lou 等人发布 Sage-A1.5 技术报告,这是一个基于 A1 的 35B Mixture-of-Experts 智能体模型,通过自适应能力组合推进长程问题求解。报告提出三项改进:通过任务委派与子智能体隔离上下文并行协作的智能体编排,包含进度检查、证据验证与反思式策略修订的智能体验证,以及超越回答预设问题的开放科学探索能力;模型 checkpoints 已开放。

    推荐理由:报告说明了子智能体并行协作、验证与开放科学探索三项改进的设计,适合关注长程智能体任务执行方法的读者。

  4. arXiv · cs.CL55

    七开源 RL 训练框架纳入论文追踪:1598 篇方法论文中仅 37 篇被纳入

    论文追踪七个开源 RL 后训练框架的提交历史,并关联 2025 年 1 月至 2026 年 6 月的 6939 篇 arXiv 论文。在 1598 篇提出通用 RL 训练方法的论文中,只有 37 篇被至少一个框架纳入;每季度队列在 180 天内纳入数量稳定在 5 到 7 篇,而队列规模从 72 篇增至 386 篇。被纳入的论文更常训练 30B 及以上参数的策略(41% 对 10%),更常修改现有损失中的系数、clip、mask 或权重(29% 对 9%);两个差距在剔除框架维护公司自身论文后依然成立,而代码开源比例在两组中相同。超过九成未被纳入的方法在框架 issues 中没有任何提及或引用。数据以追踪器形式发布,链接训练失败与框架实现并列出各框架贡献规则。

    推荐理由:论文用提交历史量化了 RL 论文进入开源训练框架的真实比例,数据可帮助读者评估方法复现和框架选型的落差。

  5. arXiv · cs.CL52

    BitMTP 提出面向超低比特大语言模型的多 token 预测加速框架

    BitMTP 提出算法与系统协同设计框架,在超低比特 LLM 骨干上实现高效多 token 预测(MTP),已被 NeurIPS 2026 接收。该框架用联合 next-token 与 MTP 目标让单一模型同时具备自回归生成与 block-causal drafting,并提供置信度、投机与混合三种解码方式。在 NVIDIA H20 上混合解码于 BitNet b1.58-2B 取得五任务平均 2.2x 加速,1.7B-4B Bonsai 模型为 2.1-2.4x,RTX 3090 与 Jetson Orin 上分别达最高 2.0x 和 MBPP+ 上 3.3x,代码已开源。

    推荐理由:论文把多 token 预测与超低比特量化结合,给出跨 GPU 的实测加速比,方法与系统设计都可参考。

  6. arXiv · cs.CL53

    Lafa 论文提出 8B 连续流语言模型,吞吐达 AR 模型 2.54x

    Lafa 是一个扩到 8B 参数的连续流语言模型,采用块内双向流加因果前缀的块状结构,可通过适配预训练自回归模型来训练,并用少于 30B tokens 完成 0.5B、7B 和 8B 三个规模的训练。在指令跟随、推理和编码评测中质量匹敌或超过 AR 模型,其自推测解码方案在可比质量下达到 AR 模型 2.54x 吞吐,优于多 token 预测和离散扩散方法,代码已开源。

    推荐理由:论文给出把连续流语言模型扩到 8B 的具体训练与推理方法,并附吞吐对比数据,适合关注非自回归架构的读者。

  1. Reddit · r/LocalLLaMA59

    FlashMask-3 论文发布:掩码感知分布式注意力在 H100 上较 FlashMask 提速 45–141%

    FlashMask-3 论文发布,提出掩码感知的 Hopper 内核与分布式注意力扩展,基于 FlashAttention-3 的 TMA/WGMMA 流水线实现三角色 warp specialization,并支持零通信掩码定位、稀疏感知负载均衡与计算通信重叠。单张 H100 在 12 种掩码、4K–128K 上下文下,achieved TFLOPs 较 FlashMask、FlexAttention、MagiAttention 提升 45–141%、34–71%、2–44%;上下文并行度 4–32 时吞吐较 Megatron-Core CP ring 等基线提升 1.80×–3.71×;在 128 张 H100 上训练 118B-A14B MoE 的 128K 端到端场景中吞吐提升 7.3–11.0%。

    推荐理由:论文给出了跨 12 种掩码和 4K 到 128K 上下文的实测对比数据,读者可以据此评估该分布式注意力方案的实际收益。

  1. GitHub · 去对齐工具与仓库65

    FreeSolo 发布:线性时间稀疏注意力实现零样本长度外推

    Zekun Shi 发布 FreeSolo 架构、论文(arXiv 2610.17191)与 341M/743M 研究用 base 模型权重,通过学习 chunk mean keys 支持检索、剪枝与层级摘要,RoPE 保留在局部窗口。FS-L 为线性时间、FS-B 为超线性次二次复杂度,两者共享一套 checkpoint 格式;模型在 4k 上下文训练,8k 及以上零样本外推,可在 262k(64 倍训练长度)检索单针而无需长上下文微调。

    推荐理由:作者同时给出 RULER 准确率与 A100 实测吞吐显存表,读者可按复杂度和长度逐项对比各稀疏注意力方案。

  1. GitHub · 去对齐工具与仓库62

    RotomArena 发布:用宝可梦对战评测大语言模型的竞技基准

    vibrunazo 在 GitHub 发布 RotomArena,一个让大语言模型自组宝可梦队伍并在 Pokémon Showdown 上逐回合对战的竞技基准,网站 rotomarena.org 公开评分、每局回放和各模型推理记录。主基准 Rotom Champ Bench 采用 c5 规则集(50 级、6 选 3、每回合 8192 token 预算、隐藏思考上限 4096 token),评分用 Bradley-Terry 拟合 Elo 并给出 bootstrap 95% 置信区间,参与者包括经 OpenRouter 接入的模型、本地 llama.cpp 模型、决策模型、去掉了语言模型的 PokéChamp 规则实现和随机 AI;代码采用 MIT-0,数据采用 CC0 1.0。

    推荐理由:原文写明了评分方法、隐藏思考 token 上限和幻觉判定规则,读者可以据此判断这个基准的公平性设计。

  1. arXiv · cs.AI52

    MetaSkill 论文提出用 DAG 运行时让 Agent Skills 可组合执行

    arXiv 论文 2610.24723 提出 MetaSkill,一种混合表示,在保留完整 Skill 包与本地自然语言指令的同时,通过有向无环图(DAG)运行时让调用依赖和前驱文本绑定变为可执行。在 20 项多 Skill 工件任务和 DeepSeek-V4-Flash、GLM-5.2 两个 LLM 上,与自然语言流程、Prompt Graph 及 AgentSkillOS 对比,盲评偏好点估计均占优,且 95% 任务 bootstrap 区间排除了与 Prompt Graph(DeepSeek-V4-Flash)和 OpenClaw(GLM-5.2)的持平;GLM-5.2 审计轨迹中所有计划节点完成、声明的先后约束全部满足。

    推荐理由:论文把 Skill 间协调关系形式化为可执行 DAG,同时保留 Skill 内自然语言灵活性,给出 20 项任务与两个 LLM 的对照实验结果。

  1. arXiv · cs.AI60

    免训练 on-policy 蒸馏方法提出,仅用前向传播即可合并专家模型

    一篇 arXiv 论文提出 training-free on-policy 蒸馏:不用训练,仅通过前向传播就能把多个单独微调的专家模型能力合并到一个学生模型中,合并后平均精度高于任一专家。当专家共享同一 base 模型时,蒸馏有精确的逐层解,等价于一个最小二乘问题,只需几百条 rollout 的前向计算即可得到二阶矩。去除重复循环截断的回答后,在 AIME25 上将合并模型从 task arithmetic 水平提升到专家水平;在 Olmo 3 7B 上,每个专家只需几 GPU 小时的前向计算,即可在七个数学和代码基准上保留各专家的大部分增益。

    推荐理由:给出免训练合并多个专家模型的具体方法,层式最小二乘解只需几百条 rollout 的前向计算即可落地。

  1. arXiv · cs.CL59

    研究复检自蒸馏是否真能提升推理能力:SDPO 与 OPSD 收益难以泛化

    一篇 arXiv 论文(arXiv:2610.18613)重新检验了自蒸馏方法 SDPO 与 OPSD 在代码、科学、工具使用和数学推理任务上的表现,发现其相对强化学习(RL)的收益不能稳定泛化到未见问题。作者认为收益主要来自过拟合或迁移既有推理行为,而非有效利用特权信息;自蒸馏梯度与直接优化期望回报的策略梯度对齐较弱。实验覆盖 Qwen3(1.7B-14B)和 OLMo-3-7B,结论是有效利用特权信息改进推理仍是开放问题,代码已开源。

    推荐理由:论文在代码、数学等多任务上复测 SDPO 和 OPSD,指出其收益主要来自过拟合而非特权信息,并给出复现代码。