AIHOT · 精选· noreply@aihot.news (Anthropic:Alignment Science Blog)·· 13 天前AI 评分52
Anthropic 研究:稀释投毒微调数据反而会强化其后门效应
来源与原文
AIHOT · 精选
作者:noreply@aihot.news (Anthropic:Alignment Science Blog)
发布时间:(北京时间)
阅读原始来源 · aihot.news ↗完整链接与内容说明
https://aihot.news/items/xaj5t8sbv4qtc0n9ovus1nfl9
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Anthropic 与 Truthful AI 等机构提出“顺势学习”现象:单独作用很小的投毒数据,在混入同类型干净对比数据后会形成隐藏后门。
来源:AIHOT · 精选 · aihot.news