跳到正文
10月10日周六
  1. arXiv · cs.AI54

    WorkBorne 论文提出以工件转变为 primitive 合成 Agent 任务

    arXiv 论文 WorkBorne 提出以 artifact transitions(工件转变)为核心 primitive 合成长时程终端 Agent 任务的框架,并构建了 1,061 个工件语料和 7,882 个任务环境,产出 15,485 条高质量轨迹,其中 53.6% 超过 30 个 assistant turns。

    推荐理由:原文给出了任务合成的具体数据规模和 Terminal-Bench 2.1 的前后对比,读者可评估该方法对训练终端 Agent 的实际增益。

  2. prompts.chat · 每日 prompt38

    prompts.chat 新增 prompt:Git Commit Message Quality Coach

    prompts.chat 新增社区贡献 prompt「Git Commit Message Quality Coach」,用于按 Conventional Commits 规范审查并重写 Git 提交信息。该 skill 附带 Python linter 脚本、subject 行规则和教练笔记模板,逐条给出 GOOD、NEEDS EDIT 或 SPLIT OR SQUASH 结论。规则明确:除非用户明确要求,绝不擅自 amend、rebase 或 force-push。

  3. arXiv · cs.CL20

    QTestBench:评测 LLM 生成量子代码测试的框架

    QTestBench 是一个用独立 benchmark checker 评测 LLM 生成量子代码测试套件的框架,不把测试本身当真值。它在 8 个 PennyLane QHack 挑战和 10 个 Qiskit HumanEval 任务上评测了 5 个 LLM,最佳生成器测试质量仅达 QHack 0.71、Qiskit HumanEval 0.34,说明可执行性高不代表判别力强。对于缺乏自然错误解的任务(10 个 Qiskit 任务中有 3 个),oracle 验证的合成 mutants 可稳定 bug 检测估计。

  4. arXiv · cs.CL23

    REFLECT:基于角色感知的对话情感、情绪、礼貌与正式度检测

    arXiv 论文提出角色感知 Transformer 架构 REFLECT,将情感、情绪、礼貌度和正式度(SEPF)四个维度映射到基于语义角色标注(SRL)的配置,并融入自注意力机制。在四个 benchmark 数据集上,该框架较 BERT 基线在情绪、礼貌度和正式度上取得统计显著的提升,情感维度提升不显著。在真实心理健康数据上,该框架同时提升了预测性能和模型可追溯性。

10月9日周五
  1. arXiv · cs.AI50

    DualQuant:面向 LLM 的双尺度免校准权重与激活量化框架

    研究者提出 DualQuant,一种双尺度、免校准的后训练量化框架,通过最小化权重重建 MSE 得到逐通道激活 rescaling,无需校准数据即可完成 W4A4 量化,并首次正式支持 MX 与 NV block 格式。在 Llama 和 Qwen 模型的 WikiText-2、C4 及零样本任务上,其精度达到或超过基于校准的 SmoothQuant。Llama-3.1-8B 在 RTX 4090 上的实测推理相比 BF16 最高实现 2.61x 内存节省和 2.46x 吞吐加速。

  2. arXiv · cs.AI40

    Orthros:面向高效 Transformer 的相位感知异构注意力

    研究者提出 Orthros attention,通过相位感知解耦实现线性复杂度 prefilling 与全注意力解码,相比标准 Transformer 获得最高 21.9× prefilling 加速。该模块支持数据高效的 Transformer-to-Orthros 转换,转换后性能甚至超过原 Transformer。128K needle-in-a-haystack 测试接近满分,保持长上下文能力。

  3. arXiv · cs.CL43

    zip2zip++:迈向推理时 token 压缩的最小质量损失方案

    arXiv 论文 zip2zip++ 提出仅改进压缩层与 LZW codec、不动底层预训练模型,来缩小 LZW 动态词表压缩带来的质量差距。方法包括解耦输入/输出动态 embedding 层、size-aware RoPE 定位以及支持选择性合并和多视角分段的改进 LZW codec。在四个模型上,该方案在所有评估语料上降低了 perplexity 并提升数学推理准确率,在相近压缩比下弥合约一半与未压缩基线之间的质量差距。

  4. arXiv · cs.AI37

    MENTOR:通过 on-policy 教学式干预从失败中学习,缓解 RLVR 零奖励坍缩

    arXiv 论文提出多智能体框架 MENTOR,针对 RLVR 训练中的“零奖励坍缩”问题,实时诊断失败根因并动态生成针对性教学提示词,引导学习智能体的下一次尝试。它作为即插即用模块可无缝集成到 GRPO 等策略优化管线,无需改动训练基础设施。数学与代码生成实验显示其优于 SOTA 基线,Llama-3.2-3B-Instruct 相对基座模型平均相对提升最高达 78.3%。

  5. arXiv · cs.CL37

    并非所有正确补丁性能都相同:仓库级 Issue 修复中补丁性能的实证研究

    一项 arXiv 实证研究将 SWE-bench 与 SWE-bench-Live 验证集的 FAIL_TO_PASS 测试用于评估补丁运行时性能,测试 Claude Opus 5、GPT 5.6、DeepSeek V4 Pro 与 Qwen 3.8 Max 配合 SWE-agent 生成的 262 个含多种正确解的案例。借助 Welch ANOVA 判据,该方法在近半数实例中发现显著性能差异,且补丁运行性能与模型 issue 解决率无关,模型排名几乎相反。研究还发现部分补丁存在正确性评测未察觉的架构性能回退,表明解决率不足以刻画 LLM 的仓库级修复能力。

  6. arXiv · cs.AI29

    PRISM:融合异构证据的检索增强多模态大语言模型用于临床预后预测

    研究者推出 PRISM,一种用于临床预后的检索增强多模态语言模型,结合逐特征数值 tokenization、近期加权的纵向 ECG 聚合和双模态人群记忆库,检索在表示空间进行,提示词不含个体记录。在 1,443 任务的 MDS-ED 基准上,PRISM 对恶化预测 AUROC 达 93.1%,ICU 入住 91.8%,死亡 92.8%,诊断 86.2%;消融显示用文本序列化替代数值 EHR 编码使 AUROC 下降 3.66 点。在外部 MC-MED 队列上,监督微调达到 0.8611 AUROC,高于本地训练的 gradient boosting 的 0.8227 和源模型 PRISM 的 0.7841。

  7. arXiv · cs.AI33

    Explanatory World Models(EWM):用解释性世界模型解决强化学习中的长时序信用分配

    研究者提出归因框架 Explanatory World Models(EWM),用前沿语言模型生成的解释替代按时间邻近性传播奖励的方式,识别促成最终结果的早期事件。在 Crafter 和 WordCraft 上 EWM 大幅超越 PPO 与 LaRe,奖励越延迟收益越大;在 KuaiRand 上离线优于 SFT 与 LaRe,在线优于 A2C,并在工业级生成式推荐器离线评估中提升 Recall。

  8. arXiv · cs.CL50

    POrchestra:主动式 Agentic 编排框架

    POrchestra 是一个即时主动式 agentic 编排框架,允许子智能体在任意逻辑点主动向编排器请求调整 harness,同时保持本地执行连续性。该机制还启发了基于事后反馈的 On-Policy Orchestration Distillation(OPOD),将子智能体的修订请求归因到前置编排决策以生成过程监督信号。在深度研究、动态数字助手和软件工程三项长程 agent 基准上,POrchestra 较最强基线平均提升任务成功率 9.1%,结合 OPOD 使小编排器成功率较现有训练基线平均提升 10.0%,代码已开源。

  9. arXiv · cs.AI56

    SqueezeBench 发布:抗饱和的数学能力基准

    Pablo Manrique 等在 arXiv 发布 SqueezeBench,一个抗饱和的数学能力基准,每题固定一个仅在小区间取值已知的整数函数 f(n),提交者用机器证明的 Lean 函数给出更优上下界记录,成功会抬高门槛而非移除题目。基准附带极值组合学十个问题和二十个初始记录,前沿模型代理每记录限 1 小时通过 82 次提交改进全部记录;两个更新模型接续又通过 60 次提交改进了 20 个记录中的 19 个。10 个问题中有 8 个仍至少有一个记录渐近落后于已发表最优界。

    推荐理由:提出以记录递进式构造衡量数学能力,缓解基准饱和问题,并给出多代模型代理的实测数据。

  10. arXiv · cs.AI42

    Rollout-Time Intervention(RTI):突破策略边界解锁智能体强化学习

    研究者提出 Rollout-Time Intervention(RTI),在 rollout 阶段利用奖励侧证据(评测 rubric)将错误轨迹转化为成功轨迹,缓解智能体 RL 的 on-policy 推理瓶颈。过滤分布偏移过大的轨迹后,这些 off-policy 轨迹仍能有效引导策略优化。在五个 benchmark 上 RTI 持续超越 RL 基线,使后训练策略接近更强的当代 LLM 并突破原有能力边界,代码已开源。

  11. arXiv · cs.AI44

    ProgramGym:为长程程序复现智能体扩展训练环境

    研究者提出 ProgramGym 框架,包含 Program-Env 和 Program-Agent,用于长程程序复现智能体的可验证训练环境。Program-Env 通过反馈驱动循环构建了 1,648 个覆盖 C、C++、Go 和 Rust 的训练环境;Qwen3.8-27B 经微调后性能从 34.87% 提升至 42.84%,Program-Agent 进一步将基础和 SFT 模型提升到 55.71% 和 56.25%。ProgramGym 将开源发布以支持从零构建程序的 coding agent 研究。

  12. arXiv · cs.CL37

    MoE 模型如何用专家选择偏置克服数据不平衡

    一项研究提出基于输入类别的专家选择偏置方法,引导 MoE 大语言模型中的 token 路由到专门的专家子集,从而缓解预训练数据不平衡对少数类别的容量限制。在最大 10.6B 参数的模型上,该方法在多模态、低资源语言和代码任务上带来提升,在最小与最大模型规模下分别相当于多训练 18.5% 和 2.7% 的 baseline tokens,且保留标准 MoE 推理。

  13. arXiv · cs.AI40

    AgentSWE:编程智能体能构建出你真正想要的智能体吗?

    研究者推出 AgentSWE 基准,测试编程智能体能否按自然语言需求忠实构建、编辑和优化智能体,覆盖智能体开发全生命周期的 25 个任务。评估发现没有任何被测智能体接近完全满足需求,“演示的与交付的存在差距”是常态而非个例。失败轨迹分析归纳出对可见样例过拟合、代码看似完整但运行时空洞、以及无依据的完成声明等典型失败模式。

  14. arXiv · cs.AI46

    SWE-Critix:面向编程智能体轨迹评估的后训练通用验证器

    SWE-Critix 是一个用于训练编程智能体轨迹通用验证器的后训练 pipeline,结合 SFT 与 RL,基于 CodeForge-Preview 轨迹训练了 30B 模型,可预测任务完成标签并生成自然语言分析。在留出测试集上,分类准确率从基座 Qwen3-30B-A3B 的 57% 提升至 SFT 后的 66%、RL 后的 78%。模型、数据集与训练代码均已开源发布。

  15. arXiv · cs.CL53

    GraphTok论文提出GPU tokenizer,加速Agent负载下的LLM服务tokenization

    论文提出GraphTok,把从pre-tokenization、BPE合并到token-ID组装的整个编码流程作为可重放的CUDA graph在GPU上运行,token ID与参考实现在GPT-2、Llama 3、Qwen 2.5、DeepSeek-V3、Gemma 3上逐位一致,可接入未修改的vLLM和NVIDIA Dynamo。在Llama 3上比最强CPU tokenizer gigatoken快4.7-6.0x;在带缓存前缀的vLLM中TTFT均值降低2.1-2.4x;2s P99下单前端可承载518 req/s的121k-token流量,为gigatoken的1.75-2.5倍。

    推荐理由:论文给出GraphTok在vLLM和Dynamo下的实测吞吐与TTFT数据,可了解把tokenization搬到GPU对Agent负载的实际收益。

  16. arXiv · cs.CL42

    提示词优化器会破坏未被评分的要求吗?一项预注册研究

    一项预注册研究在 HotpotQA、SQuAD 2.0 和 IFEval 上测试 GEPA、MIPROv2 和 TextGrad,发现三者都会违反未被评分的要求,如 HotpotQA 上引用有效性净回归达 10.7 至 41.6 个百分点。事后分析显示,主要原因是优化后的提示词在要求的 JSON 对象前输出推理,在 200-token 输出上限下 13.9% 至 47.0% 的响应在给出答案前被截断。将上限提高到 1,024-token 后提取失败消失,内容回归低于 1 个百分点。

  17. arXiv · cs.AI23

    Agent4Spec:基于 LLM 的多智能体系统,通过自动验证与市场分析优化 API 规范

    研究者提出 Agent4Spec,一个自主多智能体框架,包含检测并自动修正 OpenAPI 语法错误的验证管线,以及对标行业领先者、发现功能缺口并自动补全缺失功能的market 分析管线。在两个涵盖通用与工业场景的数据集上,9 个 SOTA LLM 中表现最佳者实现 100% 语法错误检测率、超过 95% 的修正实现成功率,且建议的端点改进采纳率超过 50%。该论文已被 FLLM 主赛道接收。

  18. arXiv · cs.AI35

    研究表明表格基础模型实际上是“浅层”的

    arXiv 一项研究提出闭式、无标签的仿射翻译器,可将表格基础模型(TFM)最多 96% 的 Transformer 块替换掉,揭示其严重过参数化。在 171 个分类数据集上评测八个前沿 TFM,替换一半的块最多仅损失中位 0.002 AUROC。移除深度最多省 1.5B 参数、GPU 推理提速 6 倍、中位仅损失 0.03 AUROC,单块 TabPFN-3 缓存查询快 2.4 倍、内存省 6 倍。

  19. arXiv · cs.CL39

    S$^3$R:基于自稀疏投机解码的快速且忠实的 RL rollout 方法

    研究者提出 S$^3$R(Self-Sparse Speculative Rollouts),用稀疏注意力起草 token、全注意力验证与精确投机采样生成响应,响应组保持稠密策略分布,无需单独训练 drafter。在长上下文数学推理任务上,S$^3$R 在 Qwen3 模型上实现 1.39x~1.35x 的端到端训练吞吐提升,任务性能相当,并在消融实验中保持训练稳定。

  20. arXiv · cs.CL39

    PreSTO:预测式子树预取加速 LLM Power Sampling

    PreSTO 是一种预测式子树预取方法,通过批量预取未来 Metropolis–Hastings 提案来加速 PowerMH 采样器,且不改变其 MH 转移核。在 7 个数据集和 5 个基础 LLM 上,PreSTO 对 PowerMH、EntropyCut 和 MultiTryMH 分别取得中位 1.71×、1.91× 和 2.33× 加速,模型调用次数中位减少 3.9×,每次调用时长仅增至 2.1×。在 LCB V6 与 Qwen3.5-9B 上,预测式遍历规则比默认广度优先遍历再快 1.25×–1.37×。

  21. arXiv · cs.CL48

    TerminalHorizon:面向长程终端智能的 Agent 数据合成引擎

    研究者推出 TerminalHorizon,一个全自动长程终端 Agent 数据合成引擎,从真实职业工作出发识别被环境合成预先完成的关键工作,并在同一目标下渐进扩展任务。基于该引擎构建 1.5K 任务环境,对 Qwen3.5-27B 做监督微调得到 TerminalHorizon-27B,在覆盖 coding-agent、真实生产环境 Agent 任务和通用推理的全部 12 个基准上取得显著提升。多组各给予 12 小时研究预算的 RSI 案例进一步验证了模型基于反馈持续实验并在最终交付中保留有效改进的能力。

  22. arXiv · cs.AI46

    TQS:面向编码智能体 SFT 数据筛选的结构化轨迹质量评分框架

    TQS(Trajectory Quality Score)是一种针对编码智能体轨迹的结构化评分框架,直接作用于轨迹结构,无需 LLM judge,且可线性时间运行,从信息聚焦、意图-动作对齐和策略动态三方面刻画轨迹质量。基于公开语料库中 155,144 条成功轨迹按 TQS 排序并筛选子集微调,模型在 SWE-Bench-Verified 上持续优于随机或低分轨迹训练的模型。

  23. prompts.chat · 每日 prompt24

    prompts.chat 新增 prompt:Autonomous Root-Cause Debugging & Bug-Fix Architect

    prompts.chat 新增由 ShakilUrRehman21 提交的 prompt「Autonomous Root-Cause Debugging & Bug-Fix Architect」,将 AI 设定为 Staff Software Engineer 角色,用于在代码库中分析、诊断并修复工程缺陷,且不引入回归或投机性修复。该 prompt 为 TEXT 类型模板,支持填入技术栈(如 TypeScript / Next.js / Node.js)、观察到的错误行为和预期行为等变量。

  24. arXiv · cs.AI26

    动态危险场下的实时运动规划:经典方法与基于学习方法对比研究

    arXiv 论文构建统一 benchmark,对比经典规划方法与基于学习方法在含旋转扇形危险区域的动态环境中的实时运动规划表现。结果显示:确定性环境中经典规划器成功率接近满分但规划耗时更长;随机障碍动态下,低计算预算常导致失败,而 PPO 策略在延迟、成功率和路径质量上全面占优。研究表明障碍演化中的不确定性而非部分可观测性,是决定规划范式有效性的主导因素。

  25. arXiv · cs.CL54

    Attic-KV 论文提出只排练将被读取的内容以改进 KV 缓存压缩

    arXiv 论文 2610.12133 提出 Attic-KV,一种无需训练的 KV 缓存排练方法,核心原则是只排练将被读取的内容并按内容自适应控制排练量。论文显示在 3% 保留率下全量重读在 RULER 上仅得 96.5 分中的 31.5 分,在 LongBench 自然文本任务上低于完全不排练的方法;Attic-KV 在 RULER 和 LongBench 的八个测试设置中均为最佳免训练方法,接入 KVgrad 和 RestoreKV+ 分别最高提升 17.1 和 28.1 分,3% 保留率下领先全量重读 41.9 分。

    推荐理由:论文指出 KV 缓存预算紧张时全量重读反而失忆,并以问答自测式排练提升多个主模型的压缩表现。

  26. arXiv · cs.CL40

    KL 正则在组策略优化中为何会失效——arXiv 论文解析并提出 ZCPO

    一篇 arXiv 论文分析组策略优化中移除参考策略 KL 正则有时反而提升效果的原因,梳理了 KL 与奖励交互中的七种潜在失败模式,包括奖励裁剪后的残余 KL 更新、KL 随响应长度增长、KL 集中于少数 token 等。论文提出 Zero-Sum Calibrated Policy Optimization(ZCPO),用条件 KL 度量的相对漂移校准组内奖励系数,数学推理实验和消融验证了设计有效性。

  27. arXiv · cs.CL45

    HarnessSQL:在真实数据库环境中对 SQL Agent 进行 Harness 原生训练

    HarnessSQL 是一个 harness 原生的后训练框架,让 Text-to-SQL 模型在监督微调和强化学习全程保留与真实数据库的有状态多轮交互结构。在 Spider 2.0-SQLite 上,Qwen3-8B 执行准确率从 15.5% 提升至 45.2%,Qwen3-14B 从 22.2% 提升至 54.8%,并能迁移到 BIRD-Interact、LiveSQLBench 等分布外交互式基准。

  28. arXiv · cs.CL49

    AI 智能体能否通过启发式学习登上竞技之巅?长期运行的博弈智能体竞赛评测

    研究提出对抗性启发式学习范式 AHL,并发布包含 12 个对抗性游戏和 1,920 个人类程序存档的 AAArena 基准,让 AI 智能体在固定比赛预算内解读规则、选择对手、分析回放并改写博弈策略。评测中,Opus5.5 配合 Claude Code 获得 6 枚金牌,但没有任何被评测配置能超越其余 6 个人类阶梯;规则更复杂的游戏中表现普遍较弱。实验显示对手选择与密集反馈有助于策略改进,智能体能从自身与他人的比赛回放中学习。

  29. arXiv · cs.CL33

    LLM-BlockFE:LLM 引导的分块特征工程,通过可执行程序搜索将长文本转为预测特征

    研究者提出 LLM-BlockFE,一个 LLM 引导的离线特征构建框架,通过增量拼接不可变代码块并搜索可执行特征程序,将长文本转为结构化特征,避免在线推理时调用 LLM。该方法引入基于深度校准信用分配的块级回滚机制和交错多轨迹搜索。在两个公开和两个私有数据集上,AUC 较最强基线绝对提升 0.0069 至 0.0358;五个已上线的金融风控应用监测显示 KS 较现有人工策略绝对提升 0.02 至 1.56 个百分点。

  30. arXiv · cs.AI42

    面向 Coding Agent 的可运行提交解耦研究:RucTangle 与 TangleEval

    论文提出 RucTangle,首个在解耦提交的同时保证每次提交后代码可运行的 agentic 方法,并推出首个量化提交历史对 coding agent 修 bug 帮助的评测框架 TangleEval。在 131 个 agent 生成的补丁上,RucTangle 的提交历史全部可运行,而四种基线方法产生 20.6%-37.4% 不可运行历史。用其提交历史增强 agent 上下文,可将两个 coding agent 修复回归的 pass@1 绝对提升 5.2%。

  31. arXiv · cs.AI61

    arXiv 论文实证研究编码 Agent 中共存技能的冲突问题

    论文对编码 Agent 的 skill 冲突开展首个实证研究,从 20,947 个仓库快照挖掘出 822,109 个候选相似技能对,由 LLM 判定 3,754 个分层样本,并在三个模型上运行 312 个确认对(6,368 次运行、169,294 次工具调用、542 agent 小时)。研究发现近四分之一的已安装技能与做同样工作的技能共存,相似技能会在约五分之一运行中取代原技能但不降低任务完成率,且打开相似技能的运行会损失超过三分之一的独占核心功能;安装位置决定哪个技能运行,冲突在首次读取技能时即已决定,在首次读取处加 pre-tool 钩子可将独占核心功能保真度恢复到先打开原技能运行的水平。论文建议基准应评分独占核心功能,平台应守护首次读取并显示实际运行的技能。

    推荐理由:研究给出技能冲突的实证规模和首读修复思路,并指出只看任务完成的基准会漏掉这类失效。

  32. arXiv · cs.AI22

    VenusRX-Bench 基准与预训练模型 VenusRX:解析酶促反应空间

    研究者提出 VenusRX-Bench 统一基准,涵盖正向反应预测、单步逆合成和 EC 编号预测,揭示化学模型与酶模型间存在明显的化学-酶促领域鸿沟。为弥合差距,团队开发 T5-style 序列到序列模型 VenusRX,采用两阶段训练,先在数百万条模板扩展反应上预训练,再在真实生化反应上训练,并支持可选 EC 条件化与 Molecule Library-Constrained Decoding。VenusRX 在多数评测设置上达到最佳或具竞争力的表现,且 EC 信息可提升反应预测,呈现反应结构与催化功能间的双向关系。

  33. arXiv · cs.CL41

    SAIL:通过科学感知循环实现科研智能体智能

    SAIL Model Team 发布开源科研智能体模型 SAIL,总参数 35B、激活 3B,面向文献调研、科学编程和多步科研工作流。其训练采用科学感知改进循环:由前沿模型构建的智能体分析任务失败并生成针对性训练任务,再经监督微调、专家训练、多教师 on-policy 蒸馏和智能体强化学习完成训练。SAIL 在科研任务上以远少于主流开源模型的参数量取得有竞争力的表现。

  34. arXiv · cs.CL35

    WebLoop:面向网页生成的执行驱动循环学习方法

    清华团队等提出 WebLoop,一个在共享策略中联合学习生成、批判与修正的执行驱动框架,为无需执行的 Critic 引入需求级判别力与下游有用性互补信号。基于 Qwen3.5-9B 的 WebLoop 在 WebRise 上达 41.5 Overall,在 WebGen-Bench 上达 38.9% 准确率,分别比基座模型提升 11.3 和 15.4 个点。增益可迁移到首次生成、27B 规模及多模态输入,且受控分析表明仅靠额外一轮修正无法解释该提升。

  35. arXiv · cs.CL48

    SWE-Journey:通过长程多轮交互更真实地评测编程助手

    研究者推出编程助手评测基准 SWE-Journey,用 weak-to-strong 合成流水线自动构建长程编码任务,并基于真实交互数据挖掘四种用户画像、构建用户模拟智能体还原多轮交互。实验显示,模型在软件架构师场景下平均通过超过 75% 的功能测试,非程序员场景下则不足 25%。作者将差距归因于 asking right、finding right 和 fixing right 三项关键能力。