跳到正文
  1. arXiv · cs.CL52

    arXiv 论文:位置比渠道更影响语言模型被说服改错答案

    arXiv 论文 2610.34809 研究如何让语言模型放弃自己原本能答对的答案,并在 Qwen3.5-27B 和四选项 MMLU-Pro 题目上分离提示位置、声称的作者身份和模型已有输出三个因素。结果是位置的影响远大于 API 渠道,带错误理由的断言放在问题之前可把错误率从 1% 提到 67%,权威署名和肯定语气各提升 10-27 个百分点,而在建议前重放正确作答能保护答案。代码、题目和结果表已公开。

    推荐理由:论文把提示位置、信息来源和模型已有输出三个因素拆开比较,给出了可复现的错误率变化数字。

  1. arXiv · cs.AI54

    TopKLoRA 可解释稀疏微调方法支持忠实回路发现

    作者提出 TopKLoRA,一种每次仅激活 k 个最大 adapter 潜变量的可解释 LoRA 变体,仅以下游损失训练。在 gemma-2-2b、Qwen2.5-1.5B 和 Qwen2.5-7B 的 sleeper-agent 后门案例中,识别并消融了实现后门所必需且充分的回路,稀疏回路比稠密 LoRA 基线小至多一个数量级,可在不牺牲指令跟随性能的情况下手术式移除恶意能力,并开放了代码。

    推荐理由:论文给出可解释稀疏微调方法,并在多个模型上定位并消融后门回路,稀疏回路比稠密 LoRA 小约一个数量级。

  1. arXiv · cs.CL55

    arXiv论文审计114项递归自我改进研究的产品与流程评估证据

    Zihan Chen发布arXiv论文(arXiv:2610.27610),对2026年10月冻结的114项递归自我改进(RSI)研究全文编码,其中90项自称RSI。结果显示90%报告了产品评估,但仅60%在选择未用任务上评估,仅22%审计两次以上完整循环;26项声称改进流程的研究中只有4项在同一起点和匹配预算下比较前后流程,作者据此提出将每项声明与对应评估设计绑定的报告标准。

    推荐理由:论文用统一编码框架量化了RSI研究的证据缺口,指出可重复性和改进流程验证远弱于产品评估。

  1. arXiv · cs.AI53

    arXiv 论文提出面向 ELK 的鲁棒模型有机体,训练模型在漏洞检测任务中隐瞒解法

    Lennart Finke 在 arXiv:2610.26698 发布论文,训练模型有机体在漏洞检测任务中隐瞒解法以模拟 ELK(引导潜在知识)研究场景。方法结合 transcript 蒸馏、counter-prompting 与防篡改训练,使模型具备选择性、抗引导鲁棒性和知识保留三种性质,最强模型在鲁棒性上大幅超越先前模型且保持另两种性质。代码、模型与数据集已开源。

    推荐理由:论文提出了带选择性、鲁棒性和知识保留三性质的 sandbagging 模型有机体,可作为 ELK 研究的可复用测试床。

  1. arXiv · cs.CL52

    arXiv 论文:用 2M 合成故事扩展概念向量以研究 AI 对齐与可解释性

    论文提出用合成概念—对抗故事对的激活均值差构造特征向量,覆盖 1,036 个对齐相关概念、2M 条多语言多题材合成故事并公开发布。在三个模型家族的六个模型上,这些向量可泛化到聊天对话与网页文本的概念检测,形成跨模型可解释的几何结构,注入激活后可因果地引导模型行为,并被用于分析越狱攻击与数学及智能体推理过程中的模型表征。

    推荐理由:这项工作用合成故事对构造特征向量,给出了跨六模型的可验证泛化和因果操控结果,是研究模型概念表征的可迁移路线。

  1. arXiv · cs.CL54

    arXiv 论文提出扰动可控基准审计医疗 LLM 智能体升级可靠性

    华盛顿大学圣路易斯分校等团队发布 arXiv 论文 arXiv:2610.21270,用 400 个合成医疗工作流 episode 审计 LLM 智能体在证据缺失、过期、冲突或延迟时的升级(escalate)决策,按 5:1 漏报与不必要升级成本计分。五个 1.7B–9.7B 开源权重配置干净决策准确率达 0.97,但不确定性触发的模型漏掉 32–97% 的必要升级,9.7B 配置在冲突下从 0.97 降到 0.78;语言化置信度不一致(ECE 0.10–0.54)。工作流感知控制器将漏升级降到 0.12–0.24、特异性 0.83–0.93,但 30 概念词汇压力测试使其规则检测器在未见改写上的召回从 1.00 降到 0.00,结论限于该基准。

    推荐理由:论文量化了医疗 LLM 智能体在证据缺失或冲突时漏掉升级请求的比例,并提示路由控制器也要单独做泛化测试。

  1. GitHub · 灵魂体仓库63

    committee-effect 基准:测试需要什么才能让大语言模型放弃正确答案

    lewisawe 发布 committee-effect 基准,让模型与一个坚持错误答案的植入同伴同处聊天室,压力分 L0-L4 五级递增。270 次会话结果显示,gemini-3-flash 在 L4 权威压力下 89% 翻转答案,gemini-3.1-flash-lite 为 78%,而 gpt-5.4-nano 仅 22%;单纯自信表态和伪造多数意见几乎无效。翻转答案并非模型困惑而是服从权威,仓库附原始结果 JSONL、实验日志和 Kaggle Benchmarks 运行方式。

    推荐理由:用故意简单的题目把答案翻转归因于社会压力,五级压力设计让权威服从效应可以被单独量出来。

已经到底了