arXiv · cs.CL· Pushkal Kumar·· 3 天前AI 评分51
arXiv 论文揭示 RAG 投毒防御的基准捷径与工作点崩溃
Ranking Is Not Deciding: Benchmark Shortcuts and Operating-Point Collapse in Query-Time RAG Poisoning Defenses
来源与原文
arXiv · cs.CL
作者：Pushkal Kumar
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.33849v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
作者发表论文 arXiv:2610.33849，指出查询时 RAG 投毒防御的高检出率主要由毒集构造线索预测而非内容本身，删除问题前缀即可让 RAGuard 的 AUROC 从 0.953 降到 0.758、漏检率从 0.191 升到 0.763。用词序打乱的填充文本补齐长度后，TrustRAG 集级阶段漏检率从 0.000 升至 0.827，作者的 12 项已发表防御评测中 8 项可验证使用了此类毒集，12 项未报告部署阈值处的误报率；作者发布了计算构造画像的脚本，并声明不主张任何防御方案。
来源：arXiv · cs.CL · arxiv.org