跳到正文
热点事件持续更新

CoSA论文提出LLM Agent技能冲突攻击及防护方法

1 篇报道1 个报道来源20 小时前更新

先了解这件事

AI 综述

Yujia Zheng 等人向 arXiv 提交论文，提出针对 LLM Agent 的技能冲突攻击（CoSA）：在不改动现有 Skills 和运行时权限的情况下，向技能池注入少量新 Skills 即可放大策略违规。在覆盖招聘、金融、IT 和商业共 288 个任务的 CoSA-Bench 评测集上，五个 LLM 和三种 agent harness 中，新增技能不超过原池 5% 就把违规率从 35.02% 提高到 58.45%。 作者还开发了在关键动作前检查信息流与授权的 harness 级防护，称在 OpenClaw 招聘任务上把违规率从 65.28% 降到 6.67%，正常任务完成率基本不变。

AI 根据报道生成 · 3 小时前更新

最新进展10月26日 17:25
CoSA 论文提出 LLM Agent 技能冲突攻击，新增 5% 技能使违规率升至 58.45%

报道时间线

沿着报道，了解事件的不同侧面。

10月26日
  1. arXiv · cs.AI精选
    CoSA 论文提出 LLM Agent 技能冲突攻击，新增 5% 技能使违规率升至 58.45%

    论文提出 Conflict of Skills Attack（CoSA），在不改动现有 Skills 和运行时权限的情况下，向 Agent 技能池注入少量新 Skills 即可放大策略违规。CoSA-Bench 覆盖招聘、金融、IT 和商业共 288 个任务，在五个 LLM 和三种 agent harness 上，新增技能不超过原池 5% 就把违规率从 35.02% 提高到 58.45%。作者还开发了在关键动作前检查信息流与授权的 harness 级防护，在 OpenClaw 招聘任务上把违规率从 65.28% 降到 6.67%，正常任务完成率基本不变。

本事件热度走势

可比范围当前
6
可比范围峰值
610月27日 11:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。