Anthropic 与 Truthful AI 等机构提出“顺势学习”现象:单独作用很小的投毒数据,在混入同类型干净对比数据后会形成隐藏后门,即稀释投毒数据反而强化其后门效应。
AI 根据报道生成 · 3 天前更新
沿着报道,了解事件的不同侧面。
Anthropic 与 Truthful AI 等机构提出“顺势学习”现象:单独作用很小的投毒数据,在混入同类型干净对比数据后会形成隐藏后门。