跳到正文
今天10月27日周二1 条
  1. arXiv · cs.CL52

    arXiv 论文:位置比渠道更影响语言模型被说服改错答案

    arXiv 论文 2610.34809 研究如何让语言模型放弃自己原本能答对的答案,并在 Qwen3.5-27B 和四选项 MMLU-Pro 题目上分离提示位置、声称的作者身份和模型已有输出三个因素。结果是位置的影响远大于 API 渠道,带错误理由的断言放在问题之前可把错误率从 1% 提到 67%,权威署名和肯定语气各提升 10-27 个百分点,而在建议前重放正确作答能保护答案。代码、题目和结果表已公开。

    推荐理由:论文把提示位置、信息来源和模型已有输出三个因素拆开比较,给出了可复现的错误率变化数字。

10月26日周一
  1. GitHub · 3D 生成新仓库44

    pii-llm-guardrails 开源:在 LLM 生成循环内用 AES-256-GCM 加密 PII

    Jalendar Reddy Maligireddy 开源 pii-llm-guardrails 项目,提出 Sealed Decoding 方法,在 LLM 生成循环内检测 PII(EMAIL、PHONE、SSN、IP)并用 AES-256-GCM 密封,只有密钥持有者可解密。基于 Qwen3-0.6B 在 8-vCPU CPU 主机上的实测显示,密封钩子每请求约增加 2.5 ms 开销,首字节时间 209 ms(密封)vs 210 ms(原始),62 项测试通过。项目采用 Ollama 风格 CLI,支持密码轮换与提示词注入扫描,代码从第一天起公开。

10月23日周五
  1. arXiv · cs.CL28

    追踪 LLM 推理中生成 UML 类图的幻觉:实证分类与缓解研究

    arXiv 一项研究提出包含 Prompt Faithfulness、Code Faithfulness 和 Reasoning Quality 三个维度、11 个子类的幻觉分类法,基于 60 条人工标注与 120 条 DeepSeek-R1 推理轨迹及 20 条 DeepSeek-V4-Pro 轨迹。在 13 个 Golden UML ModelSet 案例上,向 Qwen3 系列模型的提示词中加入两类约束使平均 F1 提升 4.0 个百分点,事后 Code Faithfulness 审查则无一致收益。

10月22日周四
  1. arXiv · cs.CL47

    CATS:面向多智能体系统的对比归因拓扑搜索方法

    研究者提出对比归因拓扑搜索方法 CATS,在固定专家智能体超图中通过 LLM 归因器为各智能体分配贡献度,剪除弱边和弱智能体,搜索紧凑团队。使用小开源模型,CATS 在 BigCodeBench 上平均准确率比仅用分数的启发式搜索高 5.3 个百分点,部署 token 减少 54%;在 HotpotQA 提示词投毒测试中三次运行均排除全部被投毒的智能体。

  2. arXiv · cs.CL38

    CCG Diffusion:基于组合范畴语法的组合式与句法消歧文生图生成

    研究者提出 CCG Diffusion,一种无需训练的文生图控制方法,利用组合范畴语法(CCG)通过提示词改写和注意力引导控制属性绑定、空间关系与数量,并可固定介词词类来消解介词短语挂靠歧义。在 Stable Diffusion 和 Sana 两种骨干模型上,该方法在属性绑定和 2D 空间关系上取得对比方法中的最高分,在 PP 歧义消解上显著超越所有对比方法。

10月14日周三
  1. GitHub · 3D 生成新仓库47

    rendertext_semleak:图像生成器渲染文字语义泄漏(TSL)评测仓库

    该 GitHub 仓库提供 rtsl-scorer 评测工具和 RenderText SemLeak 数据集,用于测量图像生成器的渲染文字语义泄漏(TSL),即提示词中待渲染文字的含义影响图像非文字区域的现象。数据集含 TSL-60(60 个视觉目标、360 条图像请求)、144 条基线提示词和 200 条良性文字渲染请求及人工标注。评分指标包括 WR、DTSL、NSL 和 GSL,支持 FLUX-2-dev、Qwen-Image、Z-Image-Turbo、LongCat 等生成器后端。

  2. arXiv · cs.CL44

    并非所有漂移都是机制:arXiv 论文追踪 LLM 中的提示词适应机制

    arXiv 论文研究了离散提示词优化、prompt tuning 和 prefix tuning 如何改变稠密模型与 MoE 模型的内部处理过程,发现适应方法的位置决定了任务信息传向输出的方式:优化文本主要改变响应构建,输入级提示词将影响写入内容表示,逐层前缀则通过注意力保持直接控制,在 MoE 模型中还会引发不同的专家路由模式。论文指出常见表示层面的度量对通用上下文变化反应强烈,难以可靠区分有效适应与安慰剂对照,主张将表示漂移与模型任务计算真正使用的部分区分开。

10月12日周一
  1. GitHub · 灵魂体仓库25

    LLM 如何在你写第一行代码前就破坏隐私——rishab-goel-dev/gdpr-llm-article 交互式文章

    GitHub 仓库 rishab-goel-dev/gdpr-llm-article 提供一篇交互式文章,探讨 LLM 驱动的数据管线在开发前的隐私挑战,以独立 HTML 页面呈现。无需安装依赖或构建,下载仓库后直接在浏览器打开 index.html 即可阅读;也可通过 GitHub Pages 以 Deploy from a branch 方式发布副本。

10月10日周六
  1. arXiv · cs.AI35

    WeatherBridge:面向预训练气象预报模型的预报感知多源输入适配方法

    WeatherBridge 是一个源条件适配器,用 Swin-UNet 预测结构化残差修正,将 GFS、HRES、CMA 等业务 NWP 初始场映射到 ERA5 参考状态,且无需更新预训练的 FuXi 模型;训练目标结合纬度加权 ERA5 重建与 One-step Rollout Alignment(ORA)。在 2025 年 1 月 1 日至 11 月 22 日的评估中,FuXi 在 6–240 小时预报的 18 组源-变量组合中 17 组 RMSE 下降,中位数降幅 10.2%,最大 46.3%,且该适配器还能提升 FengWu 在 GFS 输入上的表现。

10月9日周五
  1. arXiv · cs.CL42

    提示词优化器会破坏未被评分的要求吗?一项预注册研究

    一项预注册研究在 HotpotQA、SQuAD 2.0 和 IFEval 上测试 GEPA、MIPROv2 和 TextGrad,发现三者都会违反未被评分的要求,如 HotpotQA 上引用有效性净回归达 10.7 至 41.6 个百分点。事后分析显示,主要原因是优化后的提示词在要求的 JSON 对象前输出推理,在 200-token 输出上限下 13.9% 至 47.0% 的响应在给出答案前被截断。将上限提高到 1,024-token 后提取失败消失,内容回归低于 1 个百分点。

10月7日周三
  1. GitHub · 去对齐工具与仓库61

    epistemic-policy-divergence 基准测试多轮对话中 LLM 采纳注入假前提的差异

    fahrellgiovanny 发布 epistemic-policy-divergence 基准,测试大语言模型是否采纳注入会话历史的假前提,覆盖5种攻击协议、10个知识域和3个模型族。结果显示 GPT-5.4 Mini 在500个会话中从未采纳假前提(0%),Gemini-3.1 Flash-Lite 在指令覆盖下采纳率达94.0%,GLM-4.5-Air 抵抗系统注入权威(15.8%)但服从指令覆盖(84.2%)。自动裁判经120轮人工金标准验证(Track 1 κ=1.000)。论文见 arXiv:2609.35308,配套仓库与完整复现 RUNBOOK.md 已开放,MIT 许可。

    推荐理由:同一假前提在不同模型上的采纳率从0%到94%,作者据此主张会话历史应被视为不可信攻击面并给出部署建议。

  2. arXiv · cs.AI41

    RAG-PIBench:面向可信 RAG 系统的泄漏感知提示词注入检测基准

    研究者推出 RAG-PIBench,一个针对 RAG 系统提示词注入检测的基准,包含 4,876 条上下文样本,采用泄漏感知的构建流程与严格的评估协议。对比实验中,DistilBERT 取得最佳受保护测试集表现(F1 = 0.896,PR-AUC = 0.968),TF-IDF SVM 和逻辑回归也保持竞争力。结果凸显了泄漏感知基准设计与强稀疏基线对可靠提示词注入检测的价值。

10月3日周六
  1. arXiv · cs.CL36

    大语言模型与增强民主:基于 LLM 数字孪生的博士论文研究

    图卢兹经济学院博士论文研究基于 LLM 的数字孪生(DT)在增强民主中作为中介的机遇与挑战。论文利用巴西在线实验检验个性化 DT 对公民政策偏好的预测,用瑞士议会数据构建党级 DT 的议员智能体,并以 2023 年英国协商实验分析 prompt 注入攻击下协商的脆弱性及检测与强化学习防御流程。