跳到正文
GitHub · 灵魂体仓库·· 20 天前AI 评分54

LADE 开源:仅用首个 token 分布过滤有害查询的模型无关安全防御方法

wonjuun/LADE

来源与原文

GitHub · 灵魂体仓库

发布时间:(北京时间)

阅读原始来源 · github.com ↗
完整链接与内容说明

https://github.com/wonjuun/LADE

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

LADE(Latent Safety Signals for Defense)是一种模型无关的有害查询过滤方法,仅利用目标 LLM 的首个 token 输出分布,在生成前区分有害与良性查询,无需隐藏状态、微调或 guard 模型。方法从参考 LLM 提取首个 token 概率差异最大的 top-k 隐性安全信号,经 tokenizer 映射迁移到任意目标模型,并用 bootstrap 校准阈值的 kNN 判别拦截查询。GitHub 仓库提供安装说明、HEx-PHI、XSTest、AdvBench、StrongREJECT、MMLU、GSM8K 等基准配置及多种越狱攻击提示评估脚本,支持 llama3、llama2、qwen2、qwen3、gemma、mistral 六个模型的 6x6 迁移矩阵实验。

来源:GitHub · 灵魂体仓库 · github.com