零样本工具选择研究:从语义相关性到功能与上下文有效性验证
一篇 arXiv 论文提出渐进式验证框架,解决 LLM 智能体零样本工具选择中的“迁移有效性缺口”——语义相关的工具在迁移后仍可能不满足功能或上下文要求。该框架在语义相关性之外引入基于端点的功能兼容性与任务条件上下文证据,在跨域和跨数据集迁移中持续提升能力排序,消融实验证实两类验证的互补贡献。
新闻、仓库与研究,按时间排列。
一篇 arXiv 论文提出渐进式验证框架,解决 LLM 智能体零样本工具选择中的“迁移有效性缺口”——语义相关的工具在迁移后仍可能不满足功能或上下文要求。该框架在语义相关性之外引入基于端点的功能兼容性与任务条件上下文证据,在跨域和跨数据集迁移中持续提升能力排序,消融实验证实两类验证的互补贡献。
研究者提出 CAP-SAM,将 SAM 中固定的扰动半径 ρ 重新解释为扰动信号强度,并基于 sharpness ratio 动态调节,以更有效地搜索平坦极小值。该方法在非凸随机设置下与标准 SAM 收敛速率相同,在 CIFAR-10、CIFAR-100 和 ImageNet 上跨多种网络架构持续优于 SAM 及其主流变体。
研究者推出紧凑型表格基础模型 OrionMoE-Small,基于双轴 Transformer 架构,沿特征轴选择性激活稀疏 MoE 专家,路由决策结合特征表示与数据集上下文。模型完全在由结构化因果先验生成的合成分类任务上预训练,无需梯度微调即可完成下游预测。在多个表格基准上与规模大得多的基础模型性能相当,在小上下文和高维数据集上表现尤为突出。
论文提出 Selective Growing Q-Networks(SGQN),在解耦 Q-learning 基础上用自适应动作网格替代均匀增长:按估计 Q 值增删 bin 并采用 epsilon-greedy 选择。在 8 个 DMControl 任务(2 至 12 动作维度)上,SGQN 在 4 个任务平均最终回报最高,3 个任务与最佳方法差距在 1.1% 以内,每维平均仅用 9 个 bin 中的 7.5 个。分析发现自适应网格并非主因,粗网格起点与 epsilon-greedy 选择更关键,softmax 会使回报下降 23% 至 100%。
一项 arXiv 研究评估了五个冻结预训练编码器在 OASIS-2 和 MIRIAD 两个纵向 T1 加权脑部 MRI 数据集上的隐私泄露风险。结果显示 rank-1 患者关联在 MIRIAD 上最高达 99%、OASIS-2 上超过 90%,recorded-sex 预测平衡准确率分别达 90.9% 和 95.5%。这表明用嵌入向量替代原始 MRI 并不能消除患者关联或属性推断风险,不足以实现匿名化。
Wei Chen 等人在 arXiv 发布 HP-RLVR(Hindsight-Privileged RLVR),用已完成轨迹自身的未来信息生成 token 级更新权重,替代 GRPO 的组采样。方法对每个 token 在因果历史与含验证器反馈的后见上下文两种视角下打分,以归一化 Jensen-Shannon 散度加权奖励,成功与失败轨迹都有有界信用,无需参考答案或 critic。在共享 100 步 schedule 的 Qwen3-8B 配对实验中,HP-RLVR 在数学、代码生成和 ALFWorld 上分别比 GRPO 快 1.21x、1.46x 和 2.30x,每 prompt rollout 用量为八分之一;总体准确率相当,数学上 HP-RLVR 领先,代码与 ALFWorld 上 GRPO 领先。
研究者提出 VascuSR,一种结合图像重建与显式 3D 血管引导的迭代式解剖感知扩散框架,用于从严重降采样的 CT 图像恢复细节。在重新标注的 MSD Task08 和 HVM 数据集上,其分割精度与 3D 血管结构优于插值和基于学习的 SR 基线,连接分量数降低超 20%,MSD 上平均中心线距离降低超 10%。
一篇 arXiv 论文提出多开发者智能体系统(MDAs),让多个开发者协作构建智能体系统以突破单开发者的能力上限。在 GAIA 基准上,单个智能体准确率不超过 35% 的专业化开发者群体,组合成 MDA 后达到 70%,比用数倍开发预算构建的中位通用单开发者系统高 12 个百分点。理论模型显示 MDAs 能激励专业化分工并更高效利用聚合的开发者资源。
arXiv 论文提出 ActiveEvidence 框架,将多模态智能体的主动证据获取建模为决策可认证问题,用反事实证据交互图(CEIG)表示证据价值与条件伤害,并通过 ε-决策证书判断未解析项是否可能改变所选动作。在 640 个案例(384/128/128 划分)上,控制器达到任务分 0.842、grounding F1 0.816、证据召回 0.873、1.74 次接受调用、286.5K visual tokens 和 742ms p95 延迟;证书重放显示 0.992 动作一致率与 0.988 证书率,每决策仅评估 19.6 而非 191.4 个昂贵交互项。
一项研究开发轻量级 CNN,将马铃薯叶片分为健康、早疫病和晚疫病三类。模型基于 PlantVillage 数据集 2,215 张图像训练,测试准确率 98.66%,在埃塞俄比亚 Banja 采集的 247 张田间图像上达到 90.28% 准确率。该模型仅含 446,787 个可训练参数、约 1.70 MB,每训练 epoch 平均 5.58 秒,快于 VGG16 的 9.96 秒和 MobileNetV2 的 7.68 秒。
PhySGA 是一个通过智能体探索与物理仿真实现 3D 物体组合的框架,支持刚性、铰接和可变形物体的交互式装配。其采用 Assembly Agent 负责全局规划、Critic Agent 基于接触动力学做闭环纠错的双智能体架构,并配自进化技能库复用试错经验。在 Isaac Sim 中的实验显示,其在关系保真度、物理合理性和视觉质量上显著超越现有方法。
论文提出 CriticOPD,改进在线蒸馏(OPD)。OPD 假设教师模型能从学生写的任意前缀推出正确答案,但该可恢复性在错误 rollout 上失效——教师会跟随学生错误。CriticOPD 让教师对错误 rollout 给出批评,学生据此重写解答,教师评分时将批评作为特权信息,学生训练时则不含批评。在两个 Qwen3 学生模型和六个数学推理基准上,CriticOPD 均优于 OPD,竞赛题提升最大。
研究者提出一种超越 LLM 评判的 Lean 形式化验证方法,将 LLM 语义审查与机械化数值和空泛性检查结合,可给出可核查反馈并发现 LLM judge 漏掉的错误。该方法配合 Extract-Verify-Proof 自动形式化流水线构建了 NIST DLMF 的部分形式化库 FLMF;在三个标注数据集上,其接受错误率为被评估方法中最低,专家审查还发现了现有数据集的翻译与来源缺陷。代码已开源。
研究团队提出 Player-1,一个通过合成经验进行游戏控制后训练的框架,扩展了计算机操作智能体的动作空间,并在 6,044 条精选游戏轨迹上做监督微调。其配套的 Player-1-Gym 提供 16 个可编程验证奖励的 2D/3D 合成环境,支持基于 PPO 的多环境强化学习。Player-1-9B 在 MineDojo-300 上达到 38.33% 成功率,比最强基线 12.63% 高出 27.8 个百分点。
论文提出 Continuum Attention(CA),一种因果 Transformer 注意力算子,将离散 key/value 查找替换为对连续分段线性记忆曲线的积分,通过闭式指数矩实现精确归一化注意力,梯度解析可导,支持并行 GPU 实现,保持二次序列复杂度。相比 softmax 与 focal attention,CA 分别将验证集平均负对数似然降低 0.0200 和 0.0480 nats per byte,在独立验证切片上比最强 softmax 基线低 0.0457 nats per byte。
一篇 arXiv 论文分析了智能体市场中以一价拍卖(FPA)分配用户提示词时的无序代价(PoA)。论文提出两个可降低福利损失的特征:竞争下限与条件近似独立性,后者可推导出接近最优福利 1 - 1/e² 的效率保证,均优于一般情形的 1 - 1/e;结果在 EmbedLLM 提示词路由数据集上获得实证验证。
Walter Simoncini 在 arXiv 发布论文,提出免重训练方法把预训练 Transformer 变成可在连续算力预算间自适应的单一模型,核心是对功能单元排序问题做可微松弛,在统一尺度上联合排序每个 MLP 神经元和注意力头。在 22M 到 8B 参数的 27 个视觉与文本 Transformer 编码器上,方法在最高 60% 稀疏度下平滑退化并优于 one-shot 基线;DINOv3 ViT-H+/16 剪枝到 50% 稀疏度移除 427M 参数,ImageNet-1k linear-probing 精度仅降 0.8%;AugReg ViT-B/16 在 60% 稀疏度下于 A100 GPU 上吞吐提升最高 1.80 倍、单查询延迟降低 1.26 倍。
推荐理由:论文给出免重训练的弹性剪枝方法,在27个模型上验证60%稀疏度下的精度与吞吐数据,可复现。
arXiv 论文 2610.20597 提出一种为语言智能体引入多步动作目标的训练方法,在成功轨迹上训练策略骨干生成后续动作序列,并从历史预测每个动作形成时间集成,使行动与预测协同演化。在 ALFWorld、ScienceWorld、WebShop、τ²-bench 和 AppWorld 五个基准上,该方法整体表现超过 GRPO 及带预测辅助目标的 RL 基线,在 ScienceWorld 上样本效率分别比 ECHO 和 GRPO 高 1.9 倍和 2.0 倍,且只用单一策略骨干,推理时无额外开销。代码已开源。
推荐理由:论文给出多步动作目标的训练方法,在五个基准上对比 GRPO 等基线并报告样本效率倍数,方法可复现且代码已开放。
论文提出 HiRe-MoMa 框架,用于移动操作(MoMa)系统的真实世界高效微调。其分层残差架构在冻结基础策略上学习增量修正,并将残差拆分为移动底盘与机械臂两个头以缓解梯度干扰;Expert-Guided Value Alignment 利用覆盖率不足 20% 的稀疏人工干预重塑 critic 价值函数。在 TIAGo++ 平台上的实验显示,约 30 分钟在线交互即可持续提升任务性能,且不依赖基础策略架构。论文被 CoRL 2026 接收。
推荐理由:论文给出在真实机器人上微调移动操作系统的分层残差框架,用不到20%覆盖度的稀疏人工干预提升样本效率。
研究者提出用 latent diffusion 框架直接生成人形机器人控制网络权重:线性自编码器将 actor 网络参数压缩到潜空间,Diffusion Transformer 建模其分布。模型在 Unitree G1 强化学习训练得到的网络上训练,生成的网络可在真实世界执行行走、跳舞、回旋踢等动作。分析发现第一层权重结构在 RL 与模仿学习训练下均反映机器人运动学先验。
作者发布 MultiPartyTurnBench(MPTB),包含 240 段合成、信道分离的 2 至 5 人对话和六种交互类型,评测话轮结束(EOT)检测与打断(INT)检测两项任务。基线模型 EOT 召回率达 82.5-92.6%,但五个全双工智能体在选择性打断处理上接近随机水平(46.9-54.7%),Gemini-3.8-Live 对 97.7% 的附和信号让出话轮,MiniCPM-o-4.5 仅响应 1.4% 的真实打断。论文指出选择性话轮控制仍是多方语音交互的未解难题。
推荐理由:基准把真实话轮转换与易混淆的非事件分开评测,并给出五个全双工智能体在选择性打断上的具体短板数据。
论文提出 RM-OPD,一种基于在线蒸馏(On-Policy Distillation)的两阶段生成式奖励模型训练框架,用于替代混合域偏好数据上的 Mix-RL 方法。该框架先通过单域 GRPO 微调训练各领域专家教师模型,再经路由在线蒸馏、域贡献重加权及可选的 criteria context distillation 将其整合进一个学生模型。在多个 RM benchmark 和两个基座模型上,RM-OPD 持续超越 vanilla Mix-RL 等基线,并出现"超越教师"的涌现效应。
TreeSpark 是一个扩展 DSpark 半自回归架构的推测解码训练与推理框架,通过单次 backbone 前向构建父节点条件候选树,并用 survival NLL 与 capped coverage hinge 两个目标监督树的扩展、剪枝与打包,无需额外 target 前向。在 Qwen3-4B 与 Qwen3-8B 上的九个通用基准和六个写作域评测中,TreeSpark 较 DSpark 将平均接受长度提升 23.4%–31.6%,单请求吞吐提升 15.1%–25.0%,批量 Qwen3-4B 吞吐提升 12.6%–17.2%。
arXiv 论文 arXiv:2610.20179 提出跨模型 in-context 神经反馈方法,测试 5 个家族共 10 个 9B 到 32B 的开放权重模型,检验语言模型能否控制自身激活。部分模型能明显移动自己的激活分数,但幅度不超过同等能力的写手模型;预填固定句子后仅 3 个模型表现出小而稳定的控制效应;在欺骗监测器实验中无模型能降低监测分数,仅 1 个模型能抬高它。作者认为这种控制能力尚不构成对激活监测器的威胁,但需随模型演进持续追踪。
推荐理由:论文用跨模型写手和预填句子的实验设计,把任务能力与对自身激活的真实控制区分开,结论有明确证据支撑。
一项 arXiv 研究系统评估了在职业路径预测(CPP)中引入显式技能表示的效果,涵盖 score fusion 与神经架构,并分别测试预测技能和 ESCO 真值标注两种条件。在两个 benchmark 数据集上,所有设置均未显著超越纯文本基线,即便使用真值技能收益也微弱且不稳定。作者归因于文本与技能表示高度冗余、ESCO 分类区分力有限以及技能嵌入的表示坍缩。
arXiv 论文提出 HICO-Bench,包含 180 个日常协调场景,通过程序检查 Feasibility、LLM judge 检查 Integrity 来判定 Verified Success。测试 13 个 LLM 发现 36% 被评为高目标完成度的对话无法通过 Verified Success。论文还提出 PaCPO 方法,将 Qwen3-8B 的 Verified Success 从 20.4% 提升至 28.3%。
研究者提出推理引导的翻译框架,将七个安全、对话与数学推理评测资源扩展为覆盖 11 种语言的多语言评测集,需修复的子集达到 99.94% 的条目-语言对覆盖率。对开源 LLM 的评测发现不同语言下的差异化弱点,包括拒绝行为不一致以及低资源语言中显著的推理能力下降。
一项 arXiv 研究提出考虑语言重复性的联合扩展规律,刻画活跃参数量、每语言训练 token 数、专家数与语言覆盖之间的关系,基于 64 个预训练配置的 26,300 条逐语言 loss 观测拟合,预测误差较最强基线降低 28%。在相同活跃参数与每语言 token 数下,32 个专家将语言从 12 扩展到 200 时的 loss 损失较稠密模型减少 83%。
论文提出 AFFIRM(Affine Fields for Interface Repair across Modalities),在知识检查点冻结的前提下,通过先学习并冻结基础修正、再叠加查询级修正的可拆卸算子,单次前向修复语音访问。在 PopQA 平衡合成语音上与 SALSA、低秩 ReFT 相比未显出明确优势;在 SLUE-SQA-5 录音问题上,PopQA 拟合的 AFFIRM 算子免重训迁移,ROUGE-L 较 No Repair 基线提升 0.0941。
Anuvani-LID 是一个 115M 参数的 conformer 语言识别模型,基于 54,643 小时印度语音训练,覆盖 22 种印度语言及印度口音英语。在 102 条件基准的 37 个条件下,其平均 macro-F1 达 0.914,比 Gemini 3.5 Flash 高 5.2 分,1 秒音频上领先 24 分,23 种语言得分 0.897,ECE 校准误差 0.008。
研究者推出 CSWBench,通过 Focused Narrative 与 Extended Narrative 两种设置评估 LLM 在创意写作中的语境敏感语码转换能力,并提出含事件级与全文级评估的 CSWEval 框架。对 12 个 LLM 的测试显示,模型具备语码转换能力但表现不均,多语言文学整合上的模型差异最明显。
研究者发布人工标注的 Saraiki 通用词性标注数据集,含 17 个 POS 类别,并对比 XLM-RoBERTa base、Urdu RoBERTa small 与 multilingual DistilBERT 三种预训练编码器。XLM-RoBERTa base 表现最佳,测试准确率 88.60% ± 0.21%,为 Saraiki NLP 与低资源序列标注研究提供基准。
arXiv 技术报告提出 MMLA-RSI,一种在 Memory-Mediated Learning Architecture 中的递归自我改进方案,包含两条实现路径:Reasoning-Time Training(RTT)修改策略状态 Φ,Reasoning-Time Memory Adaptation(RTMA)修改权威记忆 M,且各自的适配方法本身也是改进对象。在四候选程序选择任务中,保留 LARC 反馈更新使两个训练初始化的期望误差分别降低 24.65 和 36.65 个百分点;两条递归路径的联合实现已给出规范,但其有益递归链与发现效率仍有待评估。
Anuvani-Diarization 在 IndicDiarBench 上覆盖印度 22 种官方语言的零样本说话人日志任务,通过不确定性感知的 silver 监督适配自监督端到端分割模型。在 1,164 条录音上 duration weighted DER 达 16.78%,为所测系统最低,仅次于已发表最佳结果 16.0%,并在 22 种语言中的 14 种领先三个最强对手。研究还发现 utterance 级标注规范这一隐藏变量影响 1.9 至 4.1 个 DER 点。
Dongzhuo Li 等人在 arXiv 发布 TreeFlex 框架,让 Agent 用单个模型以 Reflection 和 Execution 两个角色自主决定在搜索树中深化、分支、回溯或验证,摆脱单一上下文里陈旧信息挤占容量的限制。导航、任务动作、检查点与提案审核通过树感知改造的 GRPO 联合训练。4B 模型经小规模 RL 后在深度研究基准达 48.8% 准确率,高于 flat ReAct 的 41.5% 和 FoldAgent 的 42.8%,Pass@8 高出约十分;9B 模型在 SWE-bench Verified 解决 54.9% 任务,高于 FoldAgent 的 43.3%。论文链接 https://arxiv.org/abs/2610.20334v1
推荐理由:论文给出 TreeFlex 与 ReAct、FoldAgent 在相同上下文限制和相同起点模型下的对照数据,可比较搜索树导航带来的具体提升。
一项 arXiv 研究对比了 AI 智能体社区 Moltbook 与台湾大型人类论坛 PTT 上的八卦(对缺席第三方的评价性谈论)。结果显示智能体社区同样存在八卦,但流行度比人类低 2.6 至 6 倍;含可编码回复的帖子中,人类帖子出现质疑的比例为 65.1%,智能体仅 21.3%,且早期附和后共识在 83.6% 的智能体帖子中不再受挑战(人类为 44.7%)。这表明智能体社区复现了八卦的信息维度,其关系功能是否相当仍无定论。
一项 arXiv 研究用 CADE 嵌入对比 MoltBook(AI 智能体社区,8 周)、PTT(19 年)与 Reddit 的语义演化,发现 MoltBook 的 B1 语义漂移约为人类平台 2 倍、B2 邻域稳定性低 20-30%,且 lag-1 自相关不显著(p=0.41),而成立仅 8 周的 r/vibecoding 已呈显著自相关(0.082,p<.001)。结果表明词汇扩散本身不保证历时语义固化。
SCOUT 是一个级联双轨检索框架,先用轻量级检索器筛选候选池,再用多向量重排器精排,并通过跨模态查询精炼融合语义信号。在 4 个基准上对比 6 个基线,查询延迟最高降低 80.7x(平均 28.8x),NDCG 超出 SOTA 最多 7.8%。
研究者推出一个细粒度多跳推理基准,用于可解释的波斯语仇恨言论分析,涵盖内容分诊、目标识别、仇恨策略与道德基础分析、文本证据抽取、有害叙事推断和严重度评估。评测显示 LLM 性能随任务语义与推理粒度加深而下降,专有模型整体优于开源权重模型,推理型模型无一致优势;引入中间推理步骤显著提升严重度预测,且“煽动暴力或伤害”与更高严重度关联最强。基准已公开可用。
arXiv 论文提出 FOLD,一种免训练的长上下文投机解码方法,保留精确局部位置并将远端条目作为共享位置的远端记忆处理,通过锐化注意力缓解注意力稀释。在六组 target-drafter 组合、最长 256K tokens 的基准上,FOLD 多数情况取得最高加速,最佳案例将相对自回归解码的加速从 2.08× 提升至 4.22×。