跳到正文
今天10月27日周二7 条
  1. arXiv · cs.CL55

    因果语音隔离器论文发布:22.1M 参数模型可在单 CPU 线程上实时运行

    论文训练了 140M/243M/374M 参数的因果语音隔离器,延迟 20 ms,可从通话本身注册来电者。将 WavLM-Large 权重改为因果并联合训练把开发集错误率从 11.44% 降至 10.55%;在长通话窗口上训练后发布版在干净开发集错误率为 2.96%,AMI 60 s 窗口实时错误率 16.13%(VoxLock 为 23.66%),Krisp 基准上为 5.74% 对 5.63%。蒸馏出的 22.1M 参数模型在 LiveKit agent 中单 CPU 线程实时运行,每通话占 33% 核心算力,错误率 10.66%;代码与模型已开源。

    推荐理由:论文给出了与 VoxLock、Krisp 的具体错误率对比和 CPU 端蒸馏模型,读者可以据此评估其语音隔离方案在真实通话里的适用性。

  2. arXiv · cs.CL55

    Skill$^\infty$:让 Agent 技能优化实现递归自我改进

    Wangcheng Tao 等发布 arXiv 论文 Skill$^\infty$,提出元 Agent 按元技能优化任务技能、并用同一流程优化元技能自身,使技能优化递归自我改进。元 Agent 诊断执行轨迹、提出候选、请求独立评审并分配搜索预算;元技能在多个任务上精炼后跨领域复用。在 SkillsBench 83 个任务上 pass rate 达 60.7%,高于人工精选技能的 56.4% 和 SkillEvolver 的 54.5%。

    推荐理由:论文把技能优化本身也编码为可被改写的元技能,给出 83 个任务上与人工技能和 SkillEvolver 的对比数据。

  3. arXiv · cs.AI50

    EvoRouter:基于洞察引导在线蒸馏的多智能体低成本路由框架

    论文提出 EvoRouter,一个通过洞察引导在线蒸馏自我演进的多智能体路由框架,由专家从配置轨迹中提炼可复用路由洞察,特权教师结合执行反馈为路由器的规划轨迹提供密集 token 级监督,并用成本感知强化学习联合优化性能与开销。在 19 个域内数据集和 2 个域外基准上,EvoRouter 平均域内精度 68.69%,超过最强路由基线 7.23 个百分点,推理计算成本降低 50.95%,代码已开源。

  4. arXiv · cs.CL52

    RoAR:用 rollout 一致性改进 GRPO 的推理训练

    论文提出 RoAR(Rollout-Agreement Reward),在 GRPO 对已验证正确 rollout 的奖励中加入推理层面的一致性信号,无需人工理由、额外采样或单独训练的过程评估器。126 对盲测配对分析显示低一致性正确轨迹的伪推理比例为 35%,高于高一致性的 22%。1.5B GRPO-RoAR 模型用 7K 训练样例在五个数学推理基准上零样本平均 pass@1 达 55.5%,比 GRPO 和 GRPO-CARE 分别高 6.0 和 5.5 个百分点,盲审中伪推理率为 18%,低于 GRPO 的 32%、GRPO-CARE 的 27% 和 DRA-GRPO 的 37%,代码已公开。

    推荐理由:论文用盲测配对数据说明正确答案中低一致性轨迹更常出现伪推理,并据此提出无需额外采样的 RoAR 奖励方法。

  5. arXiv · cs.AI49

    编码智能体 harness 如何自我演化?一项关于回顾式适应的实证研究

    一项实证研究考察编码智能体 harness 能否通过经验自我演化:让 Claude Code 运行 \retro 技能,在 30 个 SWE-bench Verified 问题上回顾会话并提出 125 项修改建议,实施其中 24 项,并在新会话中评估 12 项 harness 改动。在目标问题实际出现的 7 次评估中,2 项改动消除了目标行为,1 项减少其发生,4 项无效,部分改动还在无关问题上增加了工作量。研究指出 harness 自我演化还需要验证改动是否有效、并修订或移除无效改动的机制。

  6. arXiv · cs.CL32

    GEPA 合并何时有效?一项机制层面的诊断

    一项 arXiv 研究诊断 GEPA 反思式提示词优化器中合并算子不稳定的成因:合并平均提升 gpt-4.1-mini 却降低 Qwen3-8B 表现。在五个数据集、两种模型上进行的九种配置扫描显示,配置得当时合并对两个模型均有提升,说明不稳定源于配置敏感性而非算子固有缺陷;提示词级静态特征也无法预测合并接受决策。基于行为探针的概念验证可在高风险任务上弃权以避免大规模合并失败,但未稳定超过 NoMerge,代码以 GEPA-MergeProbe 开源。

10月26日周一
  1. prompts.chat · 每日 prompt21

    prompts.chat PR #1303:Bot 卡片新增点赞数、评论与变更请求,用户资料新增 Bots 标签页

    prompts.chat 的 PR #1303 为 bot 卡片显示点赞数,bot 页面新增点赞、评论和变更请求功能,并将变更请求列表/详情提取为可复用组件。用户资料新增 Bots 标签页(含分页与 bot 数量统计),管理员可对已删除 bot 打开变更请求、隐藏其评论;仅含 bot 的个人主页仍可被索引,SEO 描述与结构化数据同步更新。

10月24日周六
  1. arXiv · cs.AI33

    RobustRLlib:面向鲁棒强化学习算法的统一库与基准

    RobustRLlib 是一个面向鲁棒强化学习的算法库与基准,以统一接口集成 17 种代表性在线、离线与安全 RL 算法。其评测平台覆盖多样真实扰动及人形与视觉-语言-动作任务,并基于 273 种扰动配置给出当前鲁棒 RL 算法的能力地图,揭示仍存在显著鲁棒性缺口之处。项目以开源形式提供可复现、可扩展的代码库。

10月23日周五
  1. arXiv · cs.AI44

    HarnessMM:通过递归自我改进提升 Harness token 效率

    论文提出 HarnessMM,通过受保护的决策复用与递归自我改进(RSI)降低 Agent harness 的 token 消耗,actor 权重保持不变。在 HumanEval 上,Codex 成功率保持 90.82%,Tokens/task(k)从 66.72 降至 47.02(节省 29.54%);DeepSeek Harness 成功率从 71.43% 升至 85.71%,Tokens/task(k)从 96.28 降至 11.62(节省 87.93%)。MBPP 消融显示成本比单次使用图低 26.91%,比保留回调低 19.52%。

  2. arXiv · cs.CL15

    ParaTaxe:一套用于处理和发布多平行语料库的开源工具

    研究者推出开源工具套件 ParaTaxe,用于处理和发布多平行语料库,解决学术语料因维护或经费不足而失于线的难题。该套件包括基于多语言嵌入向量的 AIlign 对齐器、用于转换与对齐语料的 Python 处理流水线、管理平行语料集合的 ParaTaxe 网页界面,以及基于 TEI-Publisher 构建的语料浏览界面。工具由 ACR Grimm Tradalign 与 ParaTaxe 项目开发,成果将发表于 JADT 2026 会议。

  3. arXiv · cs.AI14

    AutoMIL:面向全切片图像分类的自动化多示例学习框架

    AutoMIL 是一个开源框架,将自动化机器学习原则应用于全切片图像分类,自动完成预处理、训练和评估等流程。在默认设置的基准评测中,其 ROC-AUC 分别达到 UBC-OCEAN 0.94、PCam 0.99 和 TCGA-NSCLC 子集 0.93-0.96,与相关工作的专用流程相当。集成主要在不均衡数据上提升性能,表明自动化流程需适应数据集特性。

  4. arXiv · cs.CL48

    现代文本嵌入模型的几何盲区:情感信息可解码但度量不可分

    arXiv 论文发现,2021–2026 年的 11 个冻结文本编码器普遍存在解耦现象:线性探针能以最高 91.3% 准确率从嵌入中解码句子情感极性,但余弦相似度的极性分离边际仅 0.003–0.064,Qwen3-Embedding-4B 探针准确率 91.3% 而 retrieval MAP 仅 64.3。作者提出 SISE 方法,用 0.13M–0.69M 参数的监督对比头在 CPU 上数秒训练,可将 retrieval MAP 提升最高 +26.0,但 128 维头在 STS-B 上损失 38–41 个 Spearman 点,属于专精化而非免费收益。论文同时开源 CPU 可复现管线和 Attribute Alignment Gap 诊断工具。

  5. arXiv · cs.CL41

    SurveyGraph:基于方法-实体知识图谱自动生成学术综述

    SurveyGraph 是一个围绕方法-实体知识图谱(MEKG)的学术综述自动生成框架,支持核心论文发现、混合大纲与证据门控叙事合成。图感知检索在八次运行中将召回率较扁平词法基线提升近一倍(p = 0.004),语义证据门 AUC = 0.75;160 句人工审计中 80.6% 获得引用支持。该工作已被 EMNLP 2026 Findings 接收。

  6. arXiv · cs.CL63

    arXiv 论文发现 schema 中的最小条目数会让开放权重模型填充提取列表

    arXiv 论文测试了八开放权重模型在 558 份真实文档上的 JSON 提取行为,发现 schema 中未被强制执行的最小条目数会让超过真实数量的列表占比从 34.5% 升至 55.4%。约一半填充条目来自文档原文,难以被校验发现;告知“少于也可”、散文式计数、提供 N/A 选项等修复方法效果有限,而用校验错误重问反而加剧填充。代码、答案列表与运行记录已开源。

    推荐理由:论文用预注册实验量化了 schema 最小条目数如何导致模型凑数虚报,并实测了几种常见修复方法的有效程度。

  7. Hugging Face Blog70

    Microsoft 与 Hugging Face 发布 ThinkingBox-Training:用数据库评分作 RL 奖励后训练 Agent

    Microsoft 与 Hugging Face 发布 ThinkingBox-Training,在 GitHub 开源了将数据库终态可执行检查转化为 RL 奖励的后训练流程。用离线策略相对难度筛选出 187 个训练任务,对 Qwen3.8-27B 做 50 步 GRPO 后,ThinkingBox-Bench 507 个任务中每次都成功的任务从 38(7.50%)升至 107(21.10%),pass@1 从 51.70% 升至 60.78%,pass@20 略降 7 个任务;单个可靠任务成本从 $24.36 降至 $8.00。

    推荐理由:把数据库终态检查直接用作 RL 奖励的完整训练配方,任务筛选方法和成本变化都给了数据,可迁移到有状态 Agent 训练。

10月22日周四
  1. arXiv · cs.CL65

    DeepEvolve 论文提出基于未来事件预测的递归自我改进系统

    Zhipeng Chen 等人在 arXiv 发布 DeepEvolve,一个以未来事件预测为环境的可持续演化智能体系统,通过递归进化引擎把每次预测的推理轨迹转化为能力。在按周更新、以真实世界结果评估的 FutureX 榜单上连续三周排名第一,rating 最高提升 195%;在自建评测中于四个基座 LLM 上进入前三,领先最强基线最多 10.7 Bradley-Terry 分。论文 47 页,标注为进行中的工作。

    推荐理由:论文以未来事件预测这一可持续演化的环境为基础研究递归自我改进,FutureX 榜单连续三周第一是可复核的外部结果。

  2. arXiv · cs.CL19

    GoiBERT:基于两阶段知识蒸馏的紧凑型越南语语言模型

    研究者推出 GoiBERT,包含 26M 和 49M 两个参数规模的越南语编码器,通过同分词器教师与大教师软标签两阶段知识蒸馏训练,可直接处理原始文本。在文本分类、方面级情感分析、自然语言推理和命名实体识别共八个 benchmark 上,GoiBERT-large 以不到最强紧凑基线一半的参数量取得非教师模型中的最高平均分,且吞吐量翻倍;GoiBERT-base 以四分之一大小保留基线 99% 的性能。压缩对情感和分类任务几乎无损,但在推理和实体识别上代价仍高。

  3. arXiv · cs.AI36

    GuideEvolve:融合专家引导与 3Ts 机制的自进化智能体框架

    GuideEvolve 是一个结合专家引导与 3Ts 机制(Think Fast and Slow、Throwback、Termination by choice)的自进化智能体框架。在 MGSM 上达到 89.8% 准确率(Gödel Agent 为 90.6%),MMLU 上 89.1%(对手 87.9%),方差降低 25-59%。其进化成功率达 100%(基线 82%),优化迭代次数从 30 次降至约 15 次。

  4. arXiv · cs.AI70

    AI 辅助发现新共识协议 A-greement,并构建 Lean 验证的智能体框架 AI-greement

    研究者借助 AI 智能体框架 AI-greement 发现了面向地理分布式状态机的新共识协议 A-greement。在 5 或 9 副本的六种部署中,该协议在写密集和读密集负载下分别将地理分布式键值存储的平均延迟较最快基线降低 12.2% 和 33.3%,只读负载下持平。AI-greement 集成协议知识库、模块化实现骨架和基于 Lean 的验证框架,其形式化还发现了既有共识协议中多个此前未报告的漏洞;作者强调人类专家在搜索前后仍不可或缺。

    推荐理由:原文给出 AI 智能体在 Lean 验证框架下发现新共识协议的完整方法与延迟数据,还附对既有协议漏洞的发现。

  5. arXiv · cs.AI23

    反身性阈值:多智能体操演性预测的相变研究

    一项 NeurIPS 2026 录用的研究提出“反身性矩阵”$\Gamma$,用于刻画多智能体操演性预测中重复再训练的稳定性。当矩阵谱半径小于 1 时,再训练几何收敛到唯一稳定均衡;越过阈值后,局部信息学习者的期望累计超额损失随时间线性增长。该阈值以上下界刻画了相变行为,并将先前单智能体的标量阈值作为特例恢复。

  6. arXiv · cs.CL49

    BIRD-RL:在状态化数据中心环境中扩展智能体强化学习

    BIRD-RL 是一个四阶段智能体强化学习课程,配合 Trajectory-scoped Persistent Execution Infrastructure 实现数据库副本安全复用并保持轨迹隔离,空间效率提升 12.8x,无需 Kubernetes 即可扩展。在 BIRD-CRITIC-SQLite 基准上,7B 和 14B 模型分别取得 44.40% 和 48.00% 的成功率,可与 Claude-Opus-4.6 Agent(48.20%)竞争。该框架还训练出兼具 SQL 调试与生成能力的统一小模型。

10月21日周三
  1. Hugging Face Blog24

    NVIDIA Kumo Forecast:结合预训练时间序列表示、历史模式检索与可解释性

    NVIDIA 发布 Kumo Forecast(前身为 NV-Tesseract Forecasting),一个多变量时间序列预测模型,基于 MOMENT-1-large 约 340M 参数编码器加可训练预测头。其 DARR 模式通过 k-nearest-neighbor 检索历史模式并与直接预测融合,并提供滞后与特征归因等可解释性输出。模型以 Apache 2.0 许可开源,支持 256 至 2048 的输入序列长度。

  2. prompts.chat · 每日 prompt14

    prompts.chat 更新 Prompt Generator 提示词

    prompts.chat 更新了 Prompt Generator 提示词,用于让 LLM 充当提示词工程师,按 C.R.A.F.T.(CONTEXT、ROLE、ACTION、FORMAT、TARGET AUDIENCE)结构生成详尽的高质量提示词。该提示词会先向用户索要主题并提出澄清问题,可用 [my placeholder] 占位符,并附有 CRAFT 格式示例,要求不解释、直接输出最终提示词。

  3. arXiv · cs.AI54

    Stratified Sparse Attention 论文提出确定性检索结合分数引导采样以缩小极端稀疏下与稠密注意力的差距

    Sahil Joshi 等在 arXiv 发布论文,提出 Stratified Sparse Attention(SSA),将确定性检索与分数引导采样结合以缩小稀疏注意力与稠密注意力在极端稀疏下的差距。在 RULER、LongBench、LOFT、AIME 及 3B 至 27B 五个模型上,SSA 均优于基线;RULER-HARD 用 Ministral-3-8B 在 50 倍注意力稀疏下,32K 和 128K 准确率从 81.8% 提至 84.2%、从 63.8% 提至 69.3%,分别恢复稠密注意力性能的 94% 和 85%。优化 CUDA 内核后,1M 上下文解码速度相对 FlashInfer 最高加速 2.96 倍,代码已开源。

    推荐理由:论文给出 SSA 在 RULER 等基准和 50 倍稀疏度下的精度与解码加速数据,方法可复用,代码已开源。

  4. arXiv · cs.AI35

    AnomalyAgent:基于视觉语言模型的智能体集成视觉异常检测方法

    研究者提出 AnomalyAgent,一种用于视觉异常检测的后训练融合框架。该框架对齐异构检测器的分数与异常图,将融合建模为有限动作选择问题,用受约束的 VLM 检查高冲突样本并选择分数动作和图动作。在 MVTec AD 与 VisA 上,AnomalyAgent 相比等权融合持续提升,取得了对比融合方法中最优的 mean image AUROC 和 pixel AP。

  5. arXiv · cs.AI52

    35B MoE 智能体模型 Sage-A1.5 发布技术报告

    Wenjie Lou 等人发布 Sage-A1.5 技术报告,这是一个基于 A1 的 35B Mixture-of-Experts 智能体模型,通过自适应能力组合推进长程问题求解。报告提出三项改进:通过任务委派与子智能体隔离上下文并行协作的智能体编排,包含进度检查、证据验证与反思式策略修订的智能体验证,以及超越回答预设问题的开放科学探索能力;模型 checkpoints 已开放。

    推荐理由:报告说明了子智能体并行协作、验证与开放科学探索三项改进的设计,适合关注长程智能体任务执行方法的读者。

  6. arXiv · cs.CL55

    七开源 RL 训练框架纳入论文追踪:1598 篇方法论文中仅 37 篇被纳入

    论文追踪七个开源 RL 后训练框架的提交历史,并关联 2025 年 1 月至 2026 年 6 月的 6939 篇 arXiv 论文。在 1598 篇提出通用 RL 训练方法的论文中,只有 37 篇被至少一个框架纳入;每季度队列在 180 天内纳入数量稳定在 5 到 7 篇,而队列规模从 72 篇增至 386 篇。被纳入的论文更常训练 30B 及以上参数的策略(41% 对 10%),更常修改现有损失中的系数、clip、mask 或权重(29% 对 9%);两个差距在剔除框架维护公司自身论文后依然成立,而代码开源比例在两组中相同。超过九成未被纳入的方法在框架 issues 中没有任何提及或引用。数据以追踪器形式发布,链接训练失败与框架实现并列出各框架贡献规则。

    推荐理由:论文用提交历史量化了 RL 论文进入开源训练框架的真实比例,数据可帮助读者评估方法复现和框架选型的落差。

  7. arXiv · cs.CL52

    BitMTP 提出面向超低比特大语言模型的多 token 预测加速框架

    BitMTP 提出算法与系统协同设计框架,在超低比特 LLM 骨干上实现高效多 token 预测(MTP),已被 NeurIPS 2026 接收。该框架用联合 next-token 与 MTP 目标让单一模型同时具备自回归生成与 block-causal drafting,并提供置信度、投机与混合三种解码方式。在 NVIDIA H20 上混合解码于 BitNet b1.58-2B 取得五任务平均 2.2x 加速,1.7B-4B Bonsai 模型为 2.1-2.4x,RTX 3090 与 Jetson Orin 上分别达最高 2.0x 和 MBPP+ 上 3.3x,代码已开源。

    推荐理由:论文把多 token 预测与超低比特量化结合,给出跨 GPU 的实测加速比,方法与系统设计都可参考。

  8. arXiv · cs.CL53

    Lafa 论文提出 8B 连续流语言模型,吞吐达 AR 模型 2.54x

    Lafa 是一个扩到 8B 参数的连续流语言模型,采用块内双向流加因果前缀的块状结构,可通过适配预训练自回归模型来训练,并用少于 30B tokens 完成 0.5B、7B 和 8B 三个规模的训练。在指令跟随、推理和编码评测中质量匹敌或超过 AR 模型,其自推测解码方案在可比质量下达到 AR 模型 2.54x 吞吐,优于多 token 预测和离散扩散方法,代码已开源。

    推荐理由:论文给出把连续流语言模型扩到 8B 的具体训练与推理方法,并附吞吐对比数据,适合关注非自回归架构的读者。

  9. arXiv · cs.CL39

    PAR:面向状态跟踪长度泛化的进度对齐循环方法

    论文提出 Progress-Aligned Recurrence(PAR),通过让第 k 次迭代的预测对齐前 k 步操作后的状态、并将循环状态重缩放至首轮范数,提升循环语言模型的长度泛化能力。基于 Qwen2.5-0.5B、仅在最多 32 步上训练的模型,在 swap-S₅ 任务外推到 512 步时达到 95.5% 平均全状态准确率,为训练长度的 16 倍,显著高于 RLT 的 55.7% 和显式思维链的 0.8%。消融实验显示去掉范数锚定会使外推倍数降至 2.2 倍以下,无中间标签时可借助前缀自蒸馏从最终答案学习对应关系。

10月20日周二
  1. prompts.chat · 每日 prompt28

    prompts.chat 新增 prompt:Listing Intelligence Engine(民宿房源情报分析引擎)

    prompts.chat 收录新 prompt「Listing Intelligence Engine」(LIE,v1.2.2),由 Scott Malin 贡献,用于对 Airbnb、Vrbo、Booking.com 等房源列表做取证式分析,识别优势、潜在弱点、隐藏成本与预订信心,并按证据标准和高中低置信度评分输出 10 分制报告。该 prompt 强调不假设房东欺骗、不编造事实,遇到反爬或登录墙时输出 Fallback 响应并要求用户粘贴房源文本。

  2. arXiv · cs.CL43

    ReAnchor:复用被拒绝的 verifier 隐状态来扩展扩散草稿生成

    ReAnchor 是一种免训练方法,复用投机解码中 target 验证时被丢弃的隐状态,让预训练 drafter 在偏移位置重新锚定并生成并行草稿块,从而扩展草稿覆盖范围。在 T=0 下,该方法在 Gemma 4-12B 上平均提升接受长度 19.4%、解码速度 17.9%;在四个目标模型、八个基准上平均提升接受长度 15.2%、解码速度 13.4%(使用预训练 DFlash drafter)。

  3. arXiv · cs.CL49

    变分解码实现并行语言模型:一次前向生成多个一致 token

    一篇 arXiv 论文提出 Parallel Language Models(PLM),通过潜在辅助变量路由依赖关系,在单次前向传播中生成相互一致的 token,训练目标为自回归损失加并行解码损失的变分边界。预训练 PLM 在 80M 至 3B 参数规模上达到接近自回归的预训练损失,加速比随模型规模呈幂律增长。后训练后的 1.3B 模型在数学、代码和指令遵循基准上匹敌或超越同等训练的自回归模型,推理加速 2.3-5.7 倍。

  4. arXiv · cs.CL32

    Monsoon:面向 50 种低资源语言 ASR 的可扩展自发语音数据收集框架

    Monsoon 是一个大规模收集自发语音数据的框架,用于解决低资源语言 ASR 缺少准确转写数据的问题,已收集 50 种语言的语音,并分析了七个共 3,500 小时的语料库。同等数据量下,其质量流程使语义 WER 相对降低 10-39%;Whisper 在 Monsoon 数据上微调后,在对话基准上语义 WER 降低 20-44 点。框架、质控模型和微调模型均已开源。

  5. arXiv · cs.CL46

    Game of Phones:用博弈论与 LLM 对抗电话诈骗

    研究者提出一个博弈论框架,让 LLM 通过上下文经验(无需微调)学习反制电话诈骗的策略。框架将骗子与"baiter"的交互建模为双人博弈,以 Nash equilibrium 作为评估基准。在 300 段模拟对话和三种 LLM 架构上,自适应策略选择比非自适应基线更接近 Nash equilibrium 28.9-79.7%,相关代码及带策略标注的数据集已开源。

10月17日周六
  1. arXiv · cs.AI52

    MetaSkill 论文提出用 DAG 运行时让 Agent Skills 可组合执行

    arXiv 论文 2610.24723 提出 MetaSkill,一种混合表示,在保留完整 Skill 包与本地自然语言指令的同时,通过有向无环图(DAG)运行时让调用依赖和前驱文本绑定变为可执行。在 20 项多 Skill 工件任务和 DeepSeek-V4-Flash、GLM-5.2 两个 LLM 上,与自然语言流程、Prompt Graph 及 AgentSkillOS 对比,盲评偏好点估计均占优,且 95% 任务 bootstrap 区间排除了与 Prompt Graph(DeepSeek-V4-Flash)和 OpenClaw(GLM-5.2)的持平;GLM-5.2 审计轨迹中所有计划节点完成、声明的先后约束全部满足。

    推荐理由:论文把 Skill 间协调关系形式化为可执行 DAG,同时保留 Skill 内自然语言灵活性,给出 20 项任务与两个 LLM 的对照实验结果。