arXiv · cs.AI· Xiao Yang·· 21 天前精选AI 评分52
EVOLVE:面向 LLM Agent 安全的累积式可审计防护工具演化框架
Cumulative and Audited Guardrail Tool Evolution for LLM Agent Safety
来源与原文
arXiv · cs.AI
作者:Xiao Yang
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2611.02516v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
论文提出 EVOLVE,一个工具级自演化防护框架,将 Agent 安全建模为安全知识的累积演化过程,把安全知识外化为可执行、可继承、可独立审计并可迭代优化的防护工具。在多个基准、骨干模型和具身环境中,EVOLVE 相比现有防御平均 F1 提升 22%,并在真实机器人和自主 Agent 系统中得到验证。
推荐理由
论文把 Agent 防护做成可审计的累积式工具演化,并用平均 F1 提升 22% 的多基准数据支撑其可扩展安全主张。
来源:arXiv · cs.AI · arxiv.org