跳到正文
AIHOT · 精选· noreply@aihot.news (Anthropic:Alignment Science Blog)·· 13 天前AI 评分52

Anthropic 研究:稀释投毒微调数据反而会强化其后门效应

来源与原文

AIHOT · 精选

作者:noreply@aihot.news (Anthropic:Alignment Science Blog)

发布时间:(北京时间)

阅读原始来源 · aihot.news ↗
完整链接与内容说明

https://aihot.news/items/xaj5t8sbv4qtc0n9ovus1nfl9

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Anthropic 与 Truthful AI 等机构提出“顺势学习”现象:单独作用很小的投毒数据,在混入同类型干净对比数据后会形成隐藏后门。

来源:AIHOT · 精选 · aihot.news