跳到正文

方向

RSI · Agent 自我改进 最新动态

追踪自我改进 Agent 的仓库、版本与实验:修改代码或策略,通过评测反馈保留有效改进。区分 Agent 自修改、改进机制自修改与自动研究工具;不将普通工作流或未经验证的能力宣称视作递归自我改进。

116 条精选近 30 天 113 条共收录 439 条

更新

精选归档 · 第 3 页

10月16日周五第 41–60 条
  1. Hugging Face · 趋势模型64

    ornith-ai 发布端到端自我改进的 Ornith-1.5-122B 开源模型

    ornith-ai 发布 Ornith-1.5-122B,一个 122B MoE 模型,将 Ornith-1.0 的自我改进循环扩展到联合优化任务生成、scaffold 构建和解题 rollout,通过强化学习持续生成训练任务并改进策略。模型支持 262,144 tokens 上下文(YaRN 缩放后约 1M),可单张 80GB GPU 部署,并提供量化 Mobile 变体。基准中 SWE-bench Verified(non-hack)84.5、TerminalBench 2.1 为 81.2,评测采用防 reward hacking 措施并以 Claude Opus 作为 judge。

    推荐理由:模型卡同时给出多基准成绩与防 reward hacking 的评测细节,读者可对照同参数量级模型比较编码与智能体表现。

  2. arXiv · cs.CL56

    arXiv 论文提出 CFOE 框架:自进化 Agent 能修复失败但难以从中泛化

    arXiv 论文提出 Cold-Start Failure-Only Evolution(CFOE),让 LLM Agent 在无先前经验、无外部评估信号的情况下只从失败交互中学习。跨三种自进化范式、多个 LLM 骨干和四个交互环境的实验发现一致的修复-泛化差距:失败经验能修复已失败任务,但对未见任务的持续改进有限;Agent 常误解失败,验证正确的经验也难迁移,而成功轨迹能显著提升泛化。

    推荐理由:论文用统一框架量化了只从失败经验中学习的效果边界,指出修复与泛化之间的差距及成功轨迹的作用。

  3. arXiv · cs.AI69

    MLExpert 论文提出后训练方法,将 35B MoE 模型训练为自主机器学习工程智能体

    论文提出面向长时程自主机器学习工程优化的后训练方法,训练出 35B Mixture-of-Experts 智能体模型 MLExpert。方法包括构建可执行任务的 Kaggle-MLE Factory、层级 agentic SFT,以及将两次实验结果之间的多轮决策作为一个执行窗口并赋予共享结果奖励的 Windowed Interaction RL(WIRL)。在 MLE-Bench Lite 上,MLExpert 将基座模型平均奖牌率从 37.9% 提升到 72.7%,达到与 Kimi-K3、GLM-5.3 等更大前沿模型相当的水平,并在 NatureBench Lite、agent scaffold 优化和算法优化上显示能力可泛化。

    推荐理由:论文展示了用层级SFT加窗口化RL把35B模型训练成自主机器学习工程智能体的完整后训练方法,MLE-Bench Lite数字可作参考。

  4. arXiv · cs.AI54

    CoDA 论文提出仿真数据引擎与动作策略共同进化框架

    论文提出 CoDA 框架,让仿真数据引擎与动作策略通过共享异构记忆共同进化,记忆将视觉语言评论家的诊断编译为生成程序与训练程序,并用 Text2potential 为动作块价值学习提供密集监督。在四个操作任务族上,分布外成功率从 SFT 后的 5.3% 提升到 27.6%,比最强闭环基线高 9.5 个百分点;LIBERO-Pro 上 15 轮生成与训练使位置扰动下成功率从 25% 升至 84%,指令扰动下从 1% 升至 76%。

    推荐理由:论文提出仿真数据引擎与动作策略共同进化的训练框架,并给出分布外成功率的实测对比,方法思路可迁移到机器人策略训练。

  5. arXiv · cs.AI52

    MetaExp 论文提出通过可验证跨任务环境扩展训练智能体自我改进能力

    论文提出 MetaExp 框架,通过带跨任务结构的可验证任务族训练语言模型智能体把交互反馈变成可迁移的经验学习能力,设计了 Shared-Tool 和 Shared-Workflow 两种任务族。团队在 1,000 个任务族上收集并过滤得到 4,956 条轨迹,微调 Qwen3.5-122B-A10B,参数冻结后在 SpreadsheetBench 提升 +8.5、APEX-Agents 峰值 +2.3、AutomationBench 提升 +14.8,领域排除训练下增益仍保持。论文地址 https://arxiv.org/abs/2610.21492v1

    推荐理由:论文用可验证跨任务环境训练经验学习能力,并在三个基准上给出领域排除训练下的迁移增益数据,可参考其环境构造思路。

10月15日周四
  1. arXiv · cs.CL56

    AdaRSI:面向具身智能体的按需递归自我改进框架

    论文提出 AdaRSI,一种具身智能体的按需递归自我改进(RSI)框架,解决 VLA 在未见长程任务中途中失败的问题。编码 agent 先改进技能与 harness,再通过从保存状态重试失败子步骤来归因持续失败,仅对仍不可靠的子步骤用自采演示和先前任务经验做微调。在 RoboCasa365 全部 50 个目标任务上,以 GR00T N1.5 为执行器且无人类演示,AdaRSI 在三个套件上均提升 VLA,将未见复合任务成功率从 4.6% 提至 13.8%;相比微调每个子步骤,成功率略高而仅用 28% 的 GPU 时间和 22% 的自采演示。论文链接 https://arxiv.org/abs/2610.20474v1

    推荐理由:论文给出按需微调与全量微调的对照数据,GPU 时间和自采演示用量都大幅降低,方法细节可直接参考。

  2. arXiv · cs.CL57

    arXiv 论文提出让 LLM 智能体学会遗忘以扩展自动科研发现

    arXiv 论文《Scaling Discovery Requires Forgetting》提出,LLM 智能体自动科研的三种扩展策略(单智能体长迭代、并行、并行通信)都会因历史累积而停滞,智能体被自身过往尝试锚定,编辑越来越少且越来越小。论文的方法是周期性丢弃搜索状态(包括各智能体会话与候选历史),从当前最优候选重启搜索。在启发式编程、kernel 优化和模型训练四类任务上,相比并行智能体最高提升 15%,相比单智能体最高提升 39%。论文链接:https://arxiv.org/abs/2610.20563v1

    推荐理由:论文指出 LLM 智能体自动科研随历史累积而停滞,提出定期丢弃搜索状态重启,在四类任务上给出量化对比。

  3. arXiv · cs.CL58

    arXiv 论文实测智能体强化学习中的自蒸馏:十种方法无一稳定超越 GRPO

    arXiv 论文 2610.19789 在 ALFWorld、ScienceWorld、Search-QA 和 WebShop 四个环境、三种模型规模上,将十种代表性自蒸馏方法与 GRPO 直接对比,共 132 次训练、累计 12,124.4 H800 GPU 小时,并对预训练骨干和全部十一个训练后方法在八个 rollout 种子上重复评测。结果显示没有方法能在所有设置下稳定超越 GRPO,最终性能好可能掩盖训练不稳定,额外训练成本也不必然带来更好表现。

    推荐理由:论文用 132 次训练、1.2 万余 GPU 小时直接对比十种自蒸馏方法与 GRPO,指出最终分数可能掩盖训练不稳定。

  4. arXiv · cs.CL58

    AGORA 框架研究社会脚手架如何塑造自演化多智能体系统

    arXiv 论文提出 AGORA 框架,独立变化团队构成与相互依赖结构(协作、从众、竞争)来研究自演化多智能体系统(MAS)的演化。在网页搜索、代码库理解与文档问答任务上发现:仅演化很少带来提升,合适的脚手架最多比单独演化的强智能体高出 25 分;其机制是把权威移交给最有能力的成员、其余成员退居辅助,且该成员在团队中成长后优于同一模型单独使用。

    推荐理由:论文用 AGORA 框架把团队构成与依赖结构拆成独立变量,给出社会脚手架影响多智能体自演化的实验数据。

  5. arXiv · cs.AI57

    LAGO 论文提出可复用增长选项的语言智能体框架

    arXiv 论文提出 LAGO,将专用语言智能体作为可复用的时序扩展选项,由 meta-agent 检索或生成选项、分发子任务并验证结果,选项库跨任务增长且不更新模型权重。在 500 个 SWE-bench Verified 任务上,冻结的 Qwen3.5-35B-A3B 单次尝试解决率为 58.6%;在固定 150 任务子集上与 mini-SWE-agent、Terminus 2 同条件对比,解决率分别为 49.3%、57.3% 和 60.3%。50 任务消融显示去掉分解少解决 4 个、打乱复用内容少 2 个、去掉选项库少 6 个。

    推荐理由:论文给出了同条件下的组件消融与横向对比数据,读者可以据此评估可复用 agent 选项库在长任务中的实际贡献。

  6. GitHub · 灵魂体仓库61

    Expert Fleet 开源:仅用 Python 标准库构建的持续运行自学习 Agent 平台

    reda-baqechame 开源 Expert Fleet,一个仅依赖 Python 标准库、无数据库无框架的本地优先 Agent 平台,含 124 个模块、161 项注册验收测试和一个 HTML 控制面板,覆盖任务、能力学习与带引用问答三个系统族。其核心设计是「完成」必须由调用方冻结的验收命令验证、目标契约存于磁盘、六大权限网关强制审计,支持 OpenRouter、Anthropic、OpenAI、Gemini、xAI、DeepSeek、Ollama 等多种提供商并附 Windows/Linux/云三路安装脚本,采用 AGPL v3。

    推荐理由:该平台把判定权交给调用方冻结的验收测试与六大权限网关,而非模型自评,且明确标注了尚未实测的边界,工程取舍写得较扎实。

  7. GitHub · 自我改进 Agent 新仓库发现56

    Agent-R 开源:用 Rust 实现的 LLM 智能体错误记忆与自调优服务器

    schwabauerbriantomas-gif 发布 Rust 编写的 m2m-agent-r,为 LLM 智能体提供持久错误记忆。错误以 incident 记录并按指纹去重,重复出现(N0–N3 验证、N≥2)才蒸馏成规则;混合 preflight 打分返回 top-3 规则并可在硬匹配时全局否决,智能体回报 hit/miss 使规则自调优,HMAC receipts 可防篡改。通过 axum HTTP API、本地 CLI agentr 和 MCP stdio 服务器暴露,支持多智能体 swarm 共享记忆与任务协调。

    推荐理由:README 详细给出了错误记忆的两层流水线、N0-N3 验证门控和自建基准数据,读者可评估这套多智能体共享错误记忆机制的适用范围。

10月14日周三
  1. arXiv · cs.AI67

    SEAR:自进化智能体机器人框架与基准发布于 arXiv

    Xinyi Wang 等在 arXiv 发布 SEAR(Self-Evolving Agentic Robotics)框架与基准,语言模型智能体通过编写控制代码并在真实与仿真任务中保留有效经验实现自我进化。框架含 code-as-policy、agent-as-policy、auto-research 三种模式,基准覆盖 7 个前沿模型、330 个仿真任务与 5 个真机任务、累计超四年智能体运行时间。主要发现包括任务更难时延长会话更划算、控制代码与共享例程可跨任务和模拟器迁移而任务特定方案不能、真机上智能体设计的练习与新颖人类设计场景存在性能差距,且纯文本模型可媲美可比多模态模型;基准与代码库已开放。

    推荐理由:该基准专门设计对照组区分真实学习与重复尝试和运气,并给出跨模拟器与真机迁移的实测发现,方法可复用。

  2. arXiv · cs.AI59

    HybridAgents 论文提出在潜在推理与文本交互间切换的混合推理 Agent

    论文提出混合推理 Agent 框架 HybridAgents,用 HybridLink 在统一生成过程中于潜在推理与文本交互间动态切换,并以连续工作记忆跨多轮保存混合上下文。配套 HybridSFT 与 HybridRL 后训练算法,在 3 个模型规模、11 个基准上较前沿 LLM Agent 与 Agent 框架平均提升 10.4%,同时 token 减少 35.5%-54.7%、推理提速 1.8x-2.6x、成本节省 2.7x-3.7x,代码与数据已开源。

    推荐理由:论文同时给出统一架构、后训练算法和在 11 个基准上的量化对比,读者可以直接查看 10.4% 提升与成本节省数据的来源。

  3. arXiv · cs.CL53

    TextualRL:面向上下文管理的文本强化学习框架

    论文提出 TextualRL,一种免梯度的强化学习框架,通过修订引导 LLM 智能体行为的文本上下文来适应任务反馈,而不改变模型参数。其核心机制包括以同任务的一组 rollout 为单位的 Groupwise Policy Critique、跨组证据审查提案的 Cross-Group Policy Update,以及由留出验证奖励决定是否采纳的有界文本补丁。在六个基准上对五个目标智能体的评测中,GPT-5.5 和 Qwen3.8-27B 的测试准确率较基座模型平均分别提升 24.4 和 15.3 个百分点。

    推荐理由:原文给出了框架机制与六个基准上的分组对比数据,读者可以据此评估这种免梯度上下文更新方法是否值得复现。

  4. GitHub · 去对齐工具与仓库59

    cklukas 开源 OMEGA TRANSFORM:本地 LLM 驱动的 Python 与 C/C++ 代码进化优化引擎

    cklukas 在 GitHub 发布 OMEGA TRANSFORM,用 Ollama 本地模型提出代码改动,由本地任务池构建、测试并打分,全程默认无云端和 API key,代码与数据不出本机。构建、运行和评估进程均在 macOS sandbox-exec 或 Linux bubblewrap 沙箱中且无网络访问,引擎仅依赖 Python 3.11+ 标准库,支持通过 llama.cpp server、vLLM 或 LM Studio 替代 Ollama,并可用 OpenRouter 接云端模型。项目含 15 个示例问题,作者说明其仍是研究原型,尚未用于真实项目,产出程序需自行检查。

    推荐理由:项目用本地模型加沙箱任务池做代码进化优化,默认零云依赖、代码不出本机,并给出完整沙箱与许可设计。

10月13日周二
  1. GitHub · 灵魂体仓库62

    google-deepmind 开源 Simply:面向前沿 LLM 研究的极简 JAX 代码库

    google-deepmind 发布 Simply,一个基于 JAX 的极简、可扩展研究代码库,定位为人和 AI 智能体都能快速迭代的前沿 LLM 研究环境。内置智能体示例与面向长程运行的 Go 语言 Agent 框架 Amplio(支持崩溃恢复、子智能体与 Web UI),以及含 11 项评分任务的 research_bench 套件;zoo 目录提供 GLM-5、Kimi K3 和 Qwen3.8 自包含模型插件,支持 Cloud TPU 与 GKE 运行,软件采用 Apache 2.0 许可证,模型与数据集可从 HuggingFace 下载(约 10 GB)。

    推荐理由:代码库自带 11 项评分研究任务和带崩溃恢复的 Amplio 长程 Agent 框架,可据此了解自动化 AI 研究的落地工作流。

10月12日周一
  1. GitHub · 去对齐工具与仓库55

    Sage 2.0 发布:Agent 包与 RSI 自进化运行时

    ZHangZHengEric 发布 Sage 2.0,提供 sage.yaml 定义的 Agent 包、Desktop v2、Server v2 和 SAgents v2 Python 运行时。新增 RSI 多轮 Agent 包优化,用独立 Session 做评测与语义审查,保留每轮迭代的完整包和测试结果,候选需显式确认才应用;支持 Skills、MCP、多智能体编排与状态化执行,安装包覆盖 macOS、Windows 和 Linux。

    推荐理由:Sage 2.0 的 RSI 循环保留每轮完整包与评测结果,且优化候选需人工确认才替换配置,原文写清了可复用的迭代管理做法。

10月10日周六
  1. arXiv · cs.AI58

    MCPDisCo:面向 MCP 原生智能体的跷跷板缓解调优框架

    论文提出 MCPDisCo,一个面向 MCP 原生智能体的生态级强化学习框架,在 70 个 MCP 服务器和 527 个工具、六个领域的真实服务器长程交互上训练。框架用 Thought-MDP 显式表示内部推理与路由、执行、终止,通过 token 掩码奖励归因和双向梯度手术缓解推理与工具学习之间的跷跷板干扰,以更少思维链 token 取得更高成功率,并在分布外 MCP-Atlas 与 GAIA 基准上保持单调增益。模型权重和实现已放出。

    推荐理由:论文给出推理与工具学习互相干扰的失败模式及其梯度手术解法,在 70 个真实 MCP 服务器上训练并验证分布外泛化。

  2. GitHub · 去对齐工具与仓库67

    AgentDescent 开源:用 diff 合并实现 LLM 智能体异步并行自进化

    作者发布 AgentDescent 框架与配套论文,用并行 worker 提出 diff、无屏障聚合器合并冲突的方式做智能体技能、提示词与 harness 的自进化。实测在 GLM-5.2 的 BBH dyck_languages 设置中 keyed union 合并 0/48、reflective merge 42/48,串行控制下中位加速 6.8×,模型调用减少 40%;HotpotQA 40 条数据上 held-out exact match 从 0.167 升到 0.583。内置 20 个已发表算法端口(GEPA、ACE 等)与 Claude Code 等 Agent 插件接口,仓库为研究参考实现,文档见 birfy.github.io/agentdescent。

    推荐理由:原文给出各指标的实测设置与置信区间,并声明只在不达显著时如实报告,读者可自行核对每个结论的适用条件。