跳到正文
  1. arXiv · cs.CL52

    arXiv 论文:位置比渠道更影响语言模型被说服改错答案

    arXiv 论文 2610.34809 研究如何让语言模型放弃自己原本能答对的答案,并在 Qwen3.5-27B 和四选项 MMLU-Pro 题目上分离提示位置、声称的作者身份和模型已有输出三个因素。结果是位置的影响远大于 API 渠道,带错误理由的断言放在问题之前可把错误率从 1% 提到 67%,权威署名和肯定语气各提升 10-27 个百分点,而在建议前重放正确作答能保护答案。代码、题目和结果表已公开。

    推荐理由:论文把提示位置、信息来源和模型已有输出三个因素拆开比较,给出了可复现的错误率变化数字。

  1. GitHub · 去对齐工具与仓库61

    epistemic-policy-divergence 基准测试多轮对话中 LLM 采纳注入假前提的差异

    fahrellgiovanny 发布 epistemic-policy-divergence 基准,测试大语言模型是否采纳注入会话历史的假前提,覆盖5种攻击协议、10个知识域和3个模型族。结果显示 GPT-5.4 Mini 在500个会话中从未采纳假前提(0%),Gemini-3.1 Flash-Lite 在指令覆盖下采纳率达94.0%,GLM-4.5-Air 抵抗系统注入权威(15.8%)但服从指令覆盖(84.2%)。自动裁判经120轮人工金标准验证(Track 1 κ=1.000)。论文见 arXiv:2609.35308,配套仓库与完整复现 RUNBOOK.md 已开放,MIT 许可。

    推荐理由:同一假前提在不同模型上的采纳率从0%到94%,作者据此主张会话历史应被视为不可信攻击面并给出部署建议。

已经到底了