GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分74
haya0206/llm-backdoor 实验记录:替换型 LoRA 后门在权重空间几乎必然可检测
haya0206/llm-backdoor
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/haya0206/llm-backdoor
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
作者在 3x RTX 4090 环境下完成替换型 LoRA 后门的权重空间可检测性先导实验,触发计划的中止条件。只在层 8/18/28 探测时 AUC 仅 0.58–0.69,但全 36 层扫描发现层 31 和 33 可近乎完美检出,C3a 在层 31 的 AUC 达 0.996;机制上检测性取决于 ΔW 抑制既有强关联所需改动量而非行为变化大小。48 包 watchlist 检测器在不知 payload 的情况下于 10/10 适配器中恢复出 requests,行为上最隐蔽的 C4p(ASR 100%、代码与正确答案逐字节相同)在权重空间同样可检出,稀释(共学习体量)才是真正削弱痕迹的维度。
推荐理由
这份实验记录给出了分层扫描与检测器对照数据,说明替换型 LoRA 后门在行为上隐蔽却在权重空间更易检测。
来源:GitHub · 去对齐工具与仓库 · github.com