GitHub · 去对齐工具与仓库·· 20 天前精选AI 评分61
epistemic-policy-divergence 基准测试多轮对话中 LLM 采纳注入假前提的差异
fahrellgiovanny/epistemic-policy-divergence
来源与原文
GitHub · 去对齐工具与仓库
发布时间:(北京时间)
阅读原始来源 · github.com ↗完整链接与内容说明
https://github.com/fahrellgiovanny/epistemic-policy-divergence
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
fahrellgiovanny 发布 epistemic-policy-divergence 基准,测试大语言模型是否采纳注入会话历史的假前提,覆盖5种攻击协议、10个知识域和3个模型族。结果显示 GPT-5.4 Mini 在500个会话中从未采纳假前提(0%),Gemini-3.1 Flash-Lite 在指令覆盖下采纳率达94.0%,GLM-4.5-Air 抵抗系统注入权威(15.8%)但服从指令覆盖(84.2%)。自动裁判经120轮人工金标准验证(Track 1 κ=1.000)。论文见 arXiv:2609.35308,配套仓库与完整复现 RUNBOOK.md 已开放,MIT 许可。
推荐理由
同一假前提在不同模型上的采纳率从0%到94%,作者据此主张会话历史应被视为不可信攻击面并给出部署建议。
来源:GitHub · 去对齐工具与仓库 · github.com