SLDR:通过选择性层恢复与动态路由防御恶意微调
研究者提出后微调防御方法 SLDR,基于选择性层恢复与动态路由,仅在敏感度最高和最低的层上训练 LoRA 恢复适配器,并通过基于表示的动态路由只对恶意查询激活适配器。在 4 种模型架构、5 个下游任务和 4 个有害基准上,SLDR 在 Llama3.1/SST2 上将平均有害分数从 11.54 降至 0.08,投毒比例高达 0.9 时有害分数仍接近零,且保持下游准确率。代码已开源。
新闻、仓库与研究,按时间排列。
研究者提出后微调防御方法 SLDR,基于选择性层恢复与动态路由,仅在敏感度最高和最低的层上训练 LoRA 恢复适配器,并通过基于表示的动态路由只对恶意查询激活适配器。在 4 种模型架构、5 个下游任务和 4 个有害基准上,SLDR 在 Llama3.1/SST2 上将平均有害分数从 11.54 降至 0.08,投毒比例高达 0.9 时有害分数仍接近零,且保持下游准确率。代码已开源。
Robert Tjarko Lange 向 SakanaAI/ShinkaEvolve 仓库提交 PR #195,加固 Claude Code workflow。改动包括:@claude 触发仅限 OWNER、MEMBER、COLLABORATOR,防止外部账号在公开仓库任意触发 Agent 任务;checkout 设 persist-credentials: false 避免泄露 GITHUB_TOKEN;actions 固定到 commit SHA(actions/checkout v7.0.1、claude-code-action v1.0.239);并通过 claude_args 添加 --disallowedTools "WebFetch,WebSearch",封锁提示词注入外泄通道。
推荐理由:作者在自家仓库收紧 Claude Code workflow 的触发者、权限与工具范围,具体改法对部署 GitHub Agent 的人可直接借鉴。