Gradus:从环境潜在课程中发现并恢复 Agent 训练经验
Gradus 是一个无需种子任务的训练课程生成方法,把固定环境视为潜在课程,提取受保护的行为算子并组合成难度递增的任务,且通过执行反馈联合校准任务与解法,使验证成为恢复信号而非末端过滤。使用 Opus 4.5 提案者,该方法将 30B 模型在 τ²-Bench 上从 59% 提升至 89%、CAR-Bench 上从 47% 提升至 83%;换用开源 Qwen3-235B 提案者则分别达到 76% 和 62%。
新闻、仓库与研究,按时间排列。
Gradus 是一个无需种子任务的训练课程生成方法,把固定环境视为潜在课程,提取受保护的行为算子并组合成难度递增的任务,且通过执行反馈联合校准任务与解法,使验证成为恢复信号而非末端过滤。使用 Opus 4.5 提案者,该方法将 30B 模型在 τ²-Bench 上从 59% 提升至 89%、CAR-Bench 上从 47% 提升至 83%;换用开源 Qwen3-235B 提案者则分别达到 76% 和 62%。
一项研究针对 14,159 个 OSS-Fuzz 案例分析了历史软件构建的环境退化问题,发现 69.7% 的案例无法完成重建与验证,且多数失败呈现少量重复出现的症状。研究提出 RELAY 框架,用 LLM 从代表性失败中推导并验证确定性修复规则,规则可无需模型调用直接复用,未解决案例再交由逐案智能体处理。评估显示混合方法比单独使用规则或智能体都能恢复更多构建,且成本低于纯智能体方案。
研究者提出 SLM-SS,一种基于 token 的生成式语音分离框架,用语音语言模型建模多说话人混合语音。在 Libri2Mix 上,采用 per-talker NAR 的 SLM-SS 达到 6.92% WER,接近纯 codec 重建水平;WavTokenizer 变体去掉 NAR 精修,在评测的分离系统中获得最高主观质量均分,且在未见过的噪声与中文混合语音上 UTMOS 和 DNSMOS 仍优于判别式基线,无需微调。
研究者提出一种 agentic 工作流,让 LLM coding agent 在商用基带 SoC 上实现算法、优化到 agent 自己编写的向量汇编,并在芯片上验证。该流程在 6G4All 平台上的 AI 发现的 OTFS 检测器组合上展示,产出 12 个可在硅片上周期精确运行的内核,优化版本每帧 18k-405k cycles(30-660 μs);其中依据芯片实测成本生成的新检测器比移植版少 13.9% cycles 且误码率相当。
arXiv 论文提出 LatBridge,通过共享 Bridge 与共享潜在通信协议下的独立接口,让多智能体系统在替换 agent 模型后复用未变接口、选择匹配的低秩接口并仅训练缺失部分,所有模型保持冻结。在八个小型模型配置上,basic 模式平均准确率达 MATH 14.8%、ALFWorld 下一步动作预测 27.3%。accelerated 模式无需自回归生成即可构建目标输入。
RAG-NIMBF 是一个模块化基准测试框架,以非侵入方式附加到现有 RAG 管道上,通过受控消融和端到端实验追踪评估 chunking、embedding、检索、reranking、提示词与生成模型的配置空间。在 SQuAD 数据集上的验证显示,MMR 使 nDCG@5 提升 +4 至 +11 个百分点;更详细的提示词指令在 Qwen3.6-27B、GPT-4o-mini 和 Qwen3.5-think 上使答案忠实度提升 +10 至 +13pp,但在 20B 生成模型上效果可忽略。
该 arXiv 论文提出在客户端本地将文本转为向量,并经 55.6M 参数的训练网络变换后,再交给托管方运行冻结的 Qwen3.8-27B 模型,托管方始终收不到文本或 token id。在 1,490 道训练外的 MMLU 问题上,该变换仅损失 1.5 个百分点准确率(80.7% vs. 82.3%),同时 30.1% 的内容 token 经最近邻查找已无法还原为原始 token。
arXiv 论文提出 SMART 框架,将 ASR 语义评估转化为上下文感知的分段级后果评估,通过结构化评分标准给出后果标签并量化 Semantic Impact Error Rate(SIER)。在多数投票人工标注上 SMART 达到 0.843 F1,高于直接 LLM 判断的 0.745,且对评估模型的选择相对不敏感。配套的无参考评分标准修正方法在两个数据集上相比 w/o Rubric 基线再降低 MER 0.85-0.98 个百分点、SIER_lex 1.18-1.65 个百分点。
arXiv 论文提出 COMPASS,一种智能体式 LLM 路由方法,由 LLM 依据路由配方通过工具收集性能与成本证据,无需路由专用训练即可选择模型。在 LLMRouterBench 上以 $139.57 达到 69.85% 准确率(对比 RLCascadeRouter 的 69.14%、$180.22);在 DeepSWE 五折交叉验证下以 $215 达到 78.1%,优于最佳单模型的 74.1%、$500。该方法可通过读取新评测记录适配扩展的模型池,无需更改路由器权重或提示词。
SAPD(Step-Advantage Policy Distillation)是一种从离线轨迹学习训练 LLM 智能体的方法,它将多轮轨迹拆解为单个决策上下文做 on-policy 蒸馏,并引入相对步骤优势信号稳定训练,全程无需新的环境观测或多轮交互。在 ALFWorld、WebShop 和 Search-based QA 上的实验显示,SAPD 在不同教师配置下均提升性能,比 SFT 缓解灾难性遗忘,每个训练步速度比在线 OPD 快至少 4.7×。代码即将开源。
研究者提出物理工况引导的视觉-语言匹配方法 POC-VLM,用于工业管道系统的空化诊断。该方法将样本具体运行变量融入候选空化文本构建物理语义描述,通过时频条件文本自适应模块与声学响应对齐,并在决策层融合基于 K 近邻的物理工况先验。在三个真实空化数据集上,POC-VLM 持续优于代表性数据驱动、多模态及领域专用诊断方法,并在不同采样率、噪声水平和观测时长下保持稳健表现。
研究提出 VISH,一个免训练、即插即用的热词预选框架,通过在帧级 CTC 后验上直接验证候选词的声学证据来支持 Speech-LLM 上下文 ASR。在五个 benchmark 上,M-VISH 的 Best-F1 较强学习式检索基线最高提升 11.7% 绝对值,并在 2,000 候选时将候选搜索延迟降低 75.2%。Bi-MVISH 则利用反向证据增强验证鲁棒性。
一项系统性实证研究分析了 LLM 在跨语言代码翻译中的幻觉现象。研究覆盖 3 个 benchmark 数据集、6 组语言对、7 个 LLM,人工标注了 13,919 个幻觉案例,并归纳出语义一致性冲突、事实知识冲突和项目上下文偏差三类分类体系。基于该分类,研究者提出 HaluCodeTran 缓解框架,结合基于 BM25 的相关翻译示例检索与分类感知的反思式精炼,为构建更可靠的 LLM 代码迁移工具提供实用基线。
研究者提出一个完全可微的、基于图的隐式求解器,将 PDE 数值优化中的大型方程组作为约束处理。该求解器在四类任务上完成评估:演化和静态问题的线性与非线性正演建模、估计方程系数与右端项的反问题求解,以及可学习的图粗化加速正演建模。其稳定性和可微性显著降低正演建模复杂度,尤其适用于地球物理等需要反问题求解的领域。
研究者提出物理变量信息深度学习框架 PhyNet,用于应对工业流体输送系统中异构采样条件下的鲁棒故障诊断。PhyNet 将物理变量作为全局运行约束、响应信号作为局部诊断证据,通过物理-响应交叉注意力机制实现无需严格时间对齐的交互。在包括三个真实空化数据集和一个公开两相流数据集的四项基准上,PhyNet 在所有评估指标中均取得最佳表现。
一项 arXiv 研究通过在同一模型族不同规模上进行密集网格实验,系统分析了 DPO 的学习率与正则化参数 β 等超参数随模型规模和更新步数的演化。研究发现最优学习率随模型大小变化、超参数不可跨数据集迁移,且验证损失与下游 benchmark 最优超参数仅弱相关。作者还指出短程候选训练可大幅降低调参成本,并公开了全部训练配置与评测结果。
论文提出 CollabSciReM,一个将会话级奖励分解为对话质量、科学严谨性和结构效率的目标条件奖励框架,用于对齐科研协作场景中的 LLM。配套的 SciQuality 基于约 300 篇留出论文、从六个维度评估多轮科研对话。在 8.62K 条合成科研对话上微调后,CollabSciReM 在四个 Llama 和 Qwen 模型上均优于通用奖励基线,等长下胜率 65.3%;专家盲评显示其幻觉回复更少、新颖性评分更高。
一项 arXiv 研究跟踪一个 8.4B 参数模型在日文金融文档上历经三个训练阶段的表现,在五个文本输入基准上评估后发现各阶段相互影响呈非加性:纯数学蒸馏会覆盖先前获得的金融知识,领域阶段修复多于新增内容。跳过阶段的消融虽最利于领域知识,却损失数值推理增益,因此最佳 checkpoint 取决于任务本身。
一项研究提出“极性盲”漏洞:LLM 在经历语法否定或反义词替换等极性翻转后无法识别有害意图,从而绕过安全护栏。该研究使用 260 条提示、覆盖 10 个 SOTA LLM 和 3 种语言,发现多数受测模型存在此问题,最脆弱模型的平均危害分达 4.12(0-5 危害量表)。该效应跨越不同否定系统存在,表明这反映的是语义鲁棒性的更广泛局限,而非特定语言或语法问题。
研究者推出 MMEnterprise-Bench,包含 1,613 道基于模拟协作项目中演化多模态记录的问题,覆盖证据推理、冲突消解和不可回答三类任务。对 10 个闭源与开源多模态 LLM 的评测显示,最强模型在证据存在跨来源或时间冲突、或跨越多张图像时仍表现吃力。增大检索预算或换用更大检索器能提升证据召回,但不一定转化为更高的回答准确率。
ACE-Compression 是一个以能力为中心的大语言模型压缩评估框架,从程序推理与约束执行、知识基础与真实性、社会认知与情感理解、人格一致性与风格稳定性四个维度考察压缩后模型的能力存续。对来自六个开源权重 LLM 的 35 个以上压缩 checkpoint(涵盖量化和剪枝)的分析显示,压缩会重新分布能力:粗粒度、局部、表层信号往往保留,而细粒度、长尾、依赖上下文的能力变得脆弱;量化在能力保留上始终优于剪枝。部署者可据此按应用所需能力画像选择压缩方法。
研究者提出 Quantum-JEPA,一个使用条件量子 Born 先验学习未来表征分布的潜在动作 JEPA 框架。在 D3IL 基准上,模型能从同一起点生成多条越障路线,其经典与量子先验实现相比变分基线提升了预测有效性与分布保真度,且无需指数级规模的 categorical 输出层。团队还在真实 QPU 上验证了训练后先验的推理可行性,并测试了含读出噪声的有限采样 parameter-shift 训练。
一项以带容量约束的 CVRP 为代理的研究,分析了基于注意力的 Pointer Networks 在问题规模变化时解质量退化的三个因素:节点密度变化、注意力分散和均值池化图上下文稀释。熵基注意力缩放将 CVRP20-to-CVRP100 的性能差距缩小 1.41 个百分点,新提出的置换不变图上下文聚合方法在 CVRP100-to-CVRP20 上提升约 0.9 个百分点。结合两者的方法选择器在全部 9 个已见训练-测试对和 9 对中 8 个未见规模对上降低成本,最高提升 3.2%。
研究者提出 HypTI,一个在双曲空间中融合临床表格评估与 MRI 扫描的多模态痴呆检测框架。该方法用可学习 Lorentz 原型建模表格数据的层级关系,并用 ROI 引导的多尺度表征学习捕捉脑区解剖模式,再通过自适应融合模块动态整合多模态嵌入。在 OASIS-3 数据集上的实验显示,该框架相较代表性方法取得较强性能。
APRIL 是一个无需样本回放的呼吸音分类领域增量学习框架,基于冻结的 BEATs 主干,通过继承并隔离低秩专家与多级原型路由器实现新领域适配。在 ICBHI 与 SPRSound 基准上,APRIL 正、反领域序列分别达到 64.4%、65.4% 和 83.1%、82.2%,为对比持续学习方法中最高,平均遗忘率在所有协议下低于 1.0%。
Ai2 发布 FairStress 基准,用 300 个真实两难决策场景、扩展后超 1300 万测试用例,测量大语言模型在不同人口身份下的决策稳定性和解释差异。实验发现存在反刻板印象的过纠,模型在对抗性前缀下更容易放弃有利于多数群体的正确决策,匹配前缀下向少数群体切换的概率高出 8.8 到 42.4 个百分点;对 BBQ 的对比显示评测提问和打分方式会改变测得的偏见方向。
推荐理由:不止测最终选择,还用对抗性前缀测决策稳定性,揭示了用固定选项打分的旧基准可能漏掉的反向过纠现象。
论文提出 BetaMem,一个通过工作、空间、实体、情节、经验、程序六层记忆构建可追溯长期记忆的具身智能体框架,用监督微调与强化学习结合教师验证来训练记忆操作。以 Qwen3.5-9B 生成记忆,在 M3-Bench-robot 得 48.08%、LoCoMo 得 92.08%、OpenEQA EM-EQA 得 72.6%、EgoLifeQA 得 62.4%;训练使写入契约通过率从 50.9% 升至 86.2%,每条存储动作的输出 token 减少 47.3%。
该 arXiv 论文研究鲁棒部分可观测马尔可夫决策过程(RPOMDP)在四种奖励目标(折扣和、长期平均、有限与无限时域累计奖励)下的求解问题,涵盖期望值、mean-variance、CVaR 和 entropic risk 四种风险度量。作者提出统一框架,证明 (s,a)-rectangular RPOMDP 与部分可观测随机博弈(POSG)在保律风险度量下可通过 logspace 归约相互等价,并由此推出新的计算复杂度结果:求解 (s,a)-rectangular RMDP 与求解 simple stochastic games 一样难。
WhatIf-Bench 是一个半合成 benchmark,基于数据中心、电网、道路交通和水网络的机制模拟器生成共 37,665 个任务,衡量预测模型利用协变量预测目标对未来事件响应的能力。评测显示 frontier LLM 技能最高、优于最好的 TSFM;各模型在 Replay 任务上达 48-85% skill,但在 Novel 任务上跌至 -7 至 50%,回归基线跌幅最大。对 Novel 场景的泛化是核心挑战。
研究者提出 Value Disaggregation(VaDar),训练单一不依赖子目标的策略来最大化各子目标 critic 值的线性组合,从而在部署时免去子目标选择。实验显示 VaDar 始终与 goal-conditioning 等基线相当且常更优,并能处理非顺序目标和多优化目标。它是首个解决 RoboCasa 中长程任务难题的算法,即使从行为克隆预训练、初始成功率近零的策略出发也能成功。
研究者提出 RELIEF 方法,用编码 Agent 修订代码生成模型产出的交互界面,并将改进融入原始生成轨迹作为微调监督数据。评测基于 200 个合成网站、355 段交互记录和 24 名用户的反馈,对两款代码生成模型变体做了微调。结果显示反馈效果随基座模型能力而异,其中从人类交互记录推断的 critique 带来最大的可用性提升。
arXiv 论文提出“推理感知多校准”框架,在按提示词话题分组的基础上,加入基于链式推理(CoT)可观测属性派生的分组,用于改进大语言模型响应可靠性的预测。在幻觉预测和不安全响应检测任务上,加入 CoT 分组均降低了 Brier score;且仅用 CoT 分组(不含话题信息)也能提升跨话题校准,表明预测误差取决于模型的推理方式而非提问内容。
一项发表于 arXiv:2610.26651 的研究以 ESM-2 蛋白质语言模型家族(8M 至 3B 参数)为对象,评估预训练数据过滤的有效性、耐久性与可扩展性。结果显示,从预训练数据中过滤病毒蛋白会明显削弱模型在病毒蛋白上的掩码语言建模、突变效应预测和长程接触预测,且影响集中于感染人类的病毒蛋白,模型越大过滤效果越强;但用被移除病毒家族的序列微调即可恢复性能,即使最大模型的恢复成本约 80 美元的 H100 时间。论文结论是预训练过滤对选择性削弱病毒蛋白能力效果中等,但无法抵御算力与数据门槛不高的微调。
推荐理由:论文用 ESM-2 系统实测了预训练数据过滤对病毒蛋白能力的削弱程度,并量化了微调恢复的代价,对评估过滤类防护的耐久性有直接参考价值。
研究者提出 Tandem,一个在移动 NPU 上运行混合线性注意力 GUI 智能体的运行时,通过在相邻请求分叉处保存循环状态、将 prefill 保持在矩阵单元并支持待机降功耗来加速本地推理。在 Snapdragon 8 Elite 上,Tandem 将文本屏幕描述的每步延迟降低 30%、截图降低 16%,文本每步能耗降低 33%,模型加载状态下的待机功耗从 0.76 W 降至 0.22 W。
AllPath 是一个接入真实模拟券商账户的个人 LLM 交易智能体,采用三层验证架构:确定性代码规则引擎执行风险限制和完整性检查、智能体在有迭代上限且无行动工具的前提下夜间自我复盘、人类通过审批界面验证判断。系统先运行两周半的全部自我修订人工把关,再运行五周让反思修订在代码门控下自动生效;期间人类否决了 2 个通过全部代码检查的提案,并删除了智能体自行添加的 19 条规则中的 11 条。
Jan Wehner 在 arXiv:2610.26664 提出将蜜罐作为 AI 控制方法,在组织内部智能体生产环境中布置诱饵机会,以检测、指认和威慑行为失当或被攻击的智能体。论文指出蜜罐可在真实部署条件下诱发失当行为、在思维链可监控性退化时仍识别恶意智能体,并低成本扩展到大量智能体实例,同时讨论了局限性和蜜罐鲁棒性、与其他监控方法效果对比等关键研究问题。
StepBench 基准从 wikiHow 抓取 6,885 条经核验的程序性步骤,覆盖 81 个开放域类别,并派生出 5 项诊断任务。对 12 个模型的 14 种配置测试显示,步骤排序最难:最强模型正确排序率仅 63.0%,步骤数达 9 步及以上时降至 33.1%。研究还发现错误步骤检测可预测生成计划的有效性,可作为更低成本的评估替代方案。
Lennart Finke 在 arXiv:2610.26698 发布论文,训练模型有机体在漏洞检测任务中隐瞒解法以模拟 ELK(引导潜在知识)研究场景。方法结合 transcript 蒸馏、counter-prompting 与防篡改训练,使模型具备选择性、抗引导鲁棒性和知识保留三种性质,最强模型在鲁棒性上大幅超越先前模型且保持另两种性质。代码、模型与数据集已开源。
推荐理由:论文提出了带选择性、鲁棒性和知识保留三性质的 sandbagging 模型有机体,可作为 ELK 研究的可复用测试床。
研究者推出首个面向生命科学的图结构评测基准 LG-Bench,涵盖医学、生物学和化学领域超过 10,000 道高质量选择题。该基准通过双向匹配和语义相似度算法构建加权评测图,并设计全局一致性分数(GCS)和知识平衡分数(KBS)两项新指标,分别衡量模型在语义相关邻域内的一致性,以及错误分布揭示的概念盲区。该框架将大语言模型评测从平面的准确率指标转向结构感知分析。
SOMA(System One Metacognitive Awareness)提出用 Jev 这类 S1 决策模型持续监控 S2 推理模型并在需要时干预,含场景、感知、控制三层,无需训练即可跨任务共享同一 S1 模型。在两个推理模型上,SOMA 将过度思考场景的推理 token 削减最多 36% 且平均准确率提升,并把不可回答问题的弃答率从 70.5% 提高到 87.2%。