跳到正文
10月23日周五
  1. arXiv · cs.CL46

    视觉语言模型安全表征的深度依赖研究:逐层定位与双向拒绝控制

    arXiv 一项被 NeurIPS 2026 Workshop 接收的研究提出免训练的推理时框架,定位并操控冻结 VLM 中的安全敏感表征。在 Qwen3-VL-4B 上,早期视觉层经激活引导可实现 6%-96% 的不安全内容拒绝双向控制,深层则对引导不敏感;InternVL2.5-4B 呈现类似的深度依赖激活几何结构。

  2. arXiv · cs.CL31

    DIVA:让 LLM 学会"值得再问"的决策知情信息获取方法

    研究者提出 DIVA,一种免训练的 LLM 信息获取方法,让模型基于证据的决策价值决定何时查询、何时停止,避免为无法改变决策的"检查"付费。其变体 DIVA-U 进一步考虑 LLM 对证据影响概率估计的不确定性。在 4 个领域、20 个 LLM 上,DIVA-U 的 regret 低于所有 LLM 基线;在各检查可靠性已知的合成场景中,DIVA 将最佳基线的 regret 降低 75%。

  3. arXiv · cs.CL57

    北海道大学医院发布院内封闭网络临床智能体平台 LLENS 并完成评估

    论文报道了在北海道大学医院封闭网络内部署的临床支持智能体平台 LLENS,使用 8 块 NVIDIA H200 GPU 与开放权重模型 Kimi K2.6(约 1 万亿参数),自 2026 年 9 月 14 日起在医院网络运行。Kimi K2.6 从 3 个候选中选出,在 2026 年日本医师执照考试模拟中得 480/500 分;在 180 道基于医院文档的问题上,交互式工具访问准确率 97.2%,高于固定检索的 81.3%(差距 15.9 个百分点,95% CI 10.9-21.3)。

    推荐理由:在医院封闭网络内部署开源大模型智能体的完整实测,对比了三种检索方式的准确率,方法可迁移到其他内网场景。

  4. arXiv · cs.CL17

    尼泊尔政治文本选举承诺挖掘:首个金标准数据集与模型比较研究

    研究者构建了首个尼泊尔政治文本金标准数据集(Cohen's kappa = 0.777),并用机器学习、深度学习和 LLM 自动提取与分析选举承诺。fastText-LSTM 深度学习模型表现最佳(accuracy 0.914、macro F1 0.913),LaBSE-LR 为最优机器学习模型(accuracy 0.897),三个受评 LLM 中 Qwen3-8B 在 few-shot 设置下取得 0.848 macro F1。成果已集成进移动应用,借助 GAI 可视化承诺以提升透明度与问责。

  5. arXiv · cs.CL32

    多语言 P(True) 自我评估中问题、回答与验证器语言的解耦研究

    一项研究在六语言因子设计中用 10 个开源模型(3B-14B)检验多语言 P(True) 自我评估,基准为 LSQA、MMMLU 和 TriviaQA。三种语言各自影响评估的不同方面:对齐回答与问题或验证器语言可提升区分度但不改善校准,仅验证器语言就可使校准误差变化达 0.04;未经验证的评分器会把 MMMLU 英-印地语准确率差距从 0.198 缩到 0.038。因此多语言置信度结果只在三种语言均报告且评分器经过验证时才具可比性。

  6. arXiv · cs.CL32

    SyncPro:面向主动式流视频理解的推理与响应同步框架

    研究者提出 SyncPro,一个同步双流框架,用 Inner 与 Response 两条分支分别负责证据跟踪和面向用户的响应,两条分支共享因果历史且可独立激活,使响应能与进行中的推理并行。该框架通过 189K 双流样本进行监督微调和轨迹级强化学习训练,在三个主动式 benchmark 上提升了响应时机和回答准确率。

  7. arXiv · cs.CL42

    Shorter Is Not Cheaper:声明式动画规范与自由代码生成 LLM 解释的受控对比

    一项预注册的受控研究发现,声明式动画规范并非生成 LLM 交互式解释的更廉价方案。测试涵盖三个 Claude 模型(360 个任务)与 Qwen3-14B(240 个任务),规范输出虽短 25-48% token,但推理开启时仅最大 Claude 模型总输出显著下降,且无模型生成显著更快。可靠性方面,自由代码一轮修复后 95-100% 有效,而 Qwen3-14B 的规范仅 33% 有效、17% 通过全部语义测试。

  8. arXiv · cs.CL36

    从噪声检索到决策证据:silver-evidence 示例提升 RAG 上下文学习

    研究提出 silver-evidence demonstrations,用 LLM 生成的目标条件证据摘要替换 ICL 示例中的原始检索段落,以过滤长噪声上下文中的干扰信息。在 EI 2.0、SciFact、合成政策检索和 HICRIC/IMR 四个数据集上,该方法在三个数据集上超过等规模的纯 gold ICL,在所有有标注数据集上提升证据 F1,并在四个数据集上的平均标签准确率均高于 InstructRAG 式 ICL。

  9. arXiv · cs.CL41

    RVL-CDIP 数据质量系统性审计:约 10.5% 文档标签错误

    研究者对文档分类标准 benchmark RVL-CDIP 进行系统审计,发现其 400,000 份文档中约 10.5% 标签错误,35.2% 的测试集在训练集中存在重复或近似重复。移除页面识别码后 SOTA 模型损失 11 个百分点,图像模型在分布外文档上损失 16 至 28 个百分点。团队重训 25 个模型并发布去标识化修正语料,重训的 13 个模型准确率提升 0.9 至 2.9 个百分点,最高的 LayoutLMv3 达 96.5%。

  10. arXiv · cs.CL48

    现代文本嵌入模型的几何盲区:情感信息可解码但度量不可分

    arXiv 论文发现,2021–2026 年的 11 个冻结文本编码器普遍存在解耦现象:线性探针能以最高 91.3% 准确率从嵌入中解码句子情感极性,但余弦相似度的极性分离边际仅 0.003–0.064,Qwen3-Embedding-4B 探针准确率 91.3% 而 retrieval MAP 仅 64.3。作者提出 SISE 方法,用 0.13M–0.69M 参数的监督对比头在 CPU 上数秒训练,可将 retrieval MAP 提升最高 +26.0,但 128 维头在 STS-B 上损失 38–41 个 Spearman 点,属于专精化而非免费收益。论文同时开源 CPU 可复现管线和 Attribute Alignment Gap 诊断工具。

  11. arXiv · cs.CL35

    EDWARD-NMT:面向神经机器翻译的弹性维度、自适应路由与双一致性 MoE 架构

    研究者提出 EDWARD-NMT,一种面向神经机器翻译的 MoE 编码器-解码器架构,支持“一次训练、随处部署”。它结合 Matryoshka 式弹性维度、带可学习阈值的自适应 sigmoid 路由和双一致性目标,可在推理时提取一系列子网络。在 PhoMT(En-Vi)、WMT-14(En-De)和 OPUS-16 等基准上,完整模型匹配或超过强 MoE 基线,子网络无需再训练即可稳定优于同等规模的稠密 Transformer。该工作已被 EMNLP 2026(Findings)接收。

  12. arXiv · cs.CL42

    研究大语言模型(LLM)在多重文化身份线索下的价值选择偏差

    一项 arXiv 研究测试了 LLM 在同时收到国家身份与语言身份线索时的文化价值表现。在 World Values Survey 选择题探测中,语言线索对答案的影响约为显式国家线索的三倍,但方向偏离对应国家的分布;在 160 万条开放式回答中,点名国家能弥合 30-44% 与模型自身回答的差距。研究认为国家与语言线索应作为不同信号分别评估,而非可互换的文化代理。

  13. arXiv · cs.CL17

    用文本与多模态 ICL 让大语言模型预测音乐 Valence 与 Arousal

    研究提出用大语言模型的 in-context learning(ICL)改进音乐 Valence 和 Arousal 连续预测:小任务模型先给出初始预测,再用辅助数据集示例修正。在 MER60 全集作为 held-out 测试集上,基于歌词和音频描述的文本 ICL 用 80 shots 将 valence R² 从 0.110 提升到 0.427,含原始音频的多模态变体仅用 10 shots 达到 0.346。这种免训练方法提供了一种推理时的音乐情感预测策略。

  14. arXiv · cs.CL18

    IndoNutriQA:印尼语临床营养问答基准发布

    研究者发布 IndoNutriQA,一个由专家整理的印尼语临床营养问答基准,包含 911 个基于真实临床营养报告构建的问答对,涵盖营养护理流程(NCP)的 8 种标准化问题类型。数据集支持生成式、抽取式和检索增强 QA 及零样本/少样本 LLM 评测,并报告了 IndoBERT、mT5、RAG 等基线和对 8 个当代 LLM 的评测结果。LLM-as-judge 评分在事实性与完整性上接近人类专家,但在临床安全性上不可靠。

  15. arXiv · cs.CL25

    时间同步端到端 ASR 模型的搜索空间复杂度与效率系统性比较

    一项发表于 IEEE SLT 2026 的研究系统比较了 CTC 与 neural transducer 端到端 ASR 模型在不同剪枝策略和语言模型配置下的搜索空间复杂度与效率。研究发现这些模型多数时间只需小搜索空间,但在不确定时段假设数会出现临时峰值;基于分数的剪枝可动态适应模型不确定性,显著降低实时率(RTF)。结果指出了低固定 beam 剪枝的局限,并为端到端 ASR 的高效搜索提供了实践指南。

  16. arXiv · cs.CL53

    arXiv 论文提出记忆感知奖励模型,学习 LLM 记忆使用的人类偏好

    一项 arXiv 研究(arXiv:2610.31272)收集了 87 名参与者约 1,000 条成对偏好判断,发现基于记忆的 LLM 回复并不总是比无记忆回复更受用户偏好,部分场景用户反而强烈偏好后者,自动评估器也更偏向使用记忆的回复。论文提出的记忆感知奖励模型达到 72.8% 的偏好预测准确率,超过现有基线,主张将记忆使用的评估与优化目标对齐到用户偏好。

    推荐理由:论文用用户自己的对话和记忆做偏好判断,指出记忆加入并不总被用户偏好,并给出可复用的记忆感知奖励模型方法。

  17. arXiv · cs.CL28

    CoWriter:引导方法论与协同的人机共创写作

    研究者推出 CoWriter,一种主动式智能体写作方案,将认知科学中的人类专家合著方法引入人-LLM 协同写作全流程。探索性用户研究显示,相比标准 LLM 基线,用户的智能体成功互动多 2.2 倍,表达个人观点和文档掌控感更强,外部评审认为成文更具叙事等“人味”特质。

  18. arXiv · cs.CL29

    语言 Agent 中记忆的价值:一个决策论框架

    一项 arXiv 研究提出决策论框架,刻画语言 Agent 中记忆从原始历史到持久状态、使用及有代价恢复与修订的价值链路,并以避免任务损失的单元度量价值。基于成本感知模拟条件与五个反例,论文揭示信息时序、检索访问、反馈与需求不确定性的作用,并指出零互信息的指针也能降低精确恢复成本。研究还在 LoCoMo 等诊断任务上展示保存、使用与度量方面的失败,给出记忆分配与恢复选项保留的可检验原则。

  19. arXiv · cs.CL48

    Cola2:连续语义压缩与平衡离散生成协同的层级语言建模

    研究者提出层级语言生成框架 Cola2,将连续语义压缩与离散文本生成解耦并协同优化,通过无辅助损失的负反馈控制压缩率,结合重建与生成监督学习紧凑潜在表示。约 2100 亿 token 训练量的五项下游任务实验显示其具备竞争力且未饱和的扩展性;在 3460.3 亿源 token 下,未收敛 checkpoint 在八项任务上平均达 60.10,并在 HellaSwag 和 StoryCloze 上超过 Llama-3-8B,而后者预训练预算超过其 43 倍。

  20. arXiv · cs.CL55

    arXiv 论文提出 StateTrack-Bench 基准刻画长对话中的状态完整性崩塌

    研究者在长程对话中定义并量化“状态完整性崩塌”,即模型记住了约束却不再对后续轮次执行,并发布 StateTrack-Bench 基准。七个模型快照的严格联合保持率在 62.4% 到 100.0% 之间,forked recall 审计显示 88.6% 的失败属行为漂移而非遗忘;Structured State Anchoring 方法在不可变约束上最多提升 24.4 个百分点。论文已被 EMNLP 2026 主会接收。

    推荐理由:论文把长对话中记住了约束却不再执行的现象量化命名,88.6% 失败属行为漂移的发现对评测设计有参考价值。

  21. arXiv · cs.CL41

    SurveyGraph:基于方法-实体知识图谱自动生成学术综述

    SurveyGraph 是一个围绕方法-实体知识图谱(MEKG)的学术综述自动生成框架,支持核心论文发现、混合大纲与证据门控叙事合成。图感知检索在八次运行中将召回率较扁平词法基线提升近一倍(p = 0.004),语义证据门 AUC = 0.75;160 句人工审计中 80.6% 获得引用支持。该工作已被 EMNLP 2026 Findings 接收。

  22. arXiv · cs.CL24

    CrisiLangs:面向危机预警生成的多语言资源发布

    研究者发布 CrisiLangs,将英文危机预警数据集 CrisiText 扩展至意大利语、保加利亚语、德语和希腊语,共涵盖 411 个场景中的 1,000 个事件、五种语言合计 5,000 条事件-预警消息对。微调多语言模型在 ROUGE-L、BLEU 和 BERTScore 上各语言均优于 zero-shot 基线;人类偏好实验显示低解码温度在五种语言中最受青睐。

  23. arXiv · cs.CL56

    AfterDeleteBench 论文审计 LLM Agent 删除记忆后的信息残留

    Ehsan Saleh 在 arXiv 发布 AfterDeleteBench,一种对固定权重 LLM Agent 删除记忆后信息残留的受控行为审计方法。实验显示 Qwen2.5-7B-Instruct 在单次查询下约三分之二的情况可恢复已删除的密文,未暴露对照组恢复为零;即使密文原串已删、只剩按公开组合规则分开存储的组件,Qwen、Mistral 和 Phi-3 仍能以 62-99% 的比例精确重建。来源感知的闭环(provenance-aware closure)消除了测试中的恢复现象,而精确字面写入过滤器只能阻止重插、无法清除已存在的信息。论文 25 页,含 7 图 12 表。

    推荐理由:论文给出可复现的删除后信息残留审计方法和对照实验设计,对做 Agent 持久记忆的人有直接参考价值。

  24. arXiv · cs.CL15

    长文档视觉问答的任务中心综述:分类体系、演进与未来方向

    该综述以任务为中心,将长文档视觉问答(VQA)分解为文档解析、证据组织与检索、生成器组织与学习、评估四个组件,并为每个组件建立细粒度分类体系。时间分析显示研究重心从多模态内容理解扩展到高保真证据获取与持续证据管理。作者展望了证据充分性、可验证可纠正的理解、预算感知协调及持续文档理解等未来方向。

  25. arXiv · cs.CL28

    面向低资源黏着语巴什基尔语的大语言模型参数高效适配:语料库、数据集与可复现基准

    一项研究发布巴什基尔语开源资源套件与适配方法系统基准,含 71,567 篇文档、46.9M tokens 的网页语料及三个文本分类标注数据集。实验覆盖 82M-8B 的八种架构,比较全量微调、QLoRA、in-context learning 和持续预训练(CPT):QLoRA 在二分类上优于编码器微调,YandexGPT-5-Lite-8B 加 CPT 达 macro-F1 0.748,高于 XLM-R 的 0.653 和 mBERT 的 0.650。CPT 效果因模型而异,西里尔 tokeniser 更优,且 LLM 评审无法复现母语者的语言正确性评分,母语评测仍不可少。

  26. arXiv · cs.CL48

    SQuAT:球面格点向量量化感知训练

    论文提出 SQuAT,一种面向十亿参数 LLM 的形状-增益向量量化感知训练(VQ-QAT)方法,用分离的 STE 对方向和增益分别更新,方向通过 E8 球面码本量化。其分布式最近邻分配方案将 VQ-QAT 训练时间缩短 12.8 倍,并扩展到 10B token。在 instruction-tuned LLaMA-3.2-1B/3B、Qwen3-4B 和 base Qwen3-1.7B 上,SQuAT 在相同码本和初始化下始终优于标准 VQ-QAT STE,达到 SOTA VQ-QAT 精度。

  27. arXiv · cs.CL16

    SyRA-CS:基于 Reptile 元学习的语码切换 ASR 合成到真实自适应框架

    研究者提出 SyRA-CS,一种基于 Reptile 元学习的合成到真实自适应框架,用于语码切换(CS)语音识别。该框架对每种语言对和预训练模型在合成 CS-FLEURS 子集上做元训练,再用 1 小时标注真实目标语音自适应,覆盖 Arabic、French、German、Hindi-English 四组及 Encoder-CTC、FastConformer-RNN-T、AED、Speech-LLM 四种架构。SyRA-CS 在全部 16 组模型-语言对比较的 WER 上优于持续微调,XLS-R 相对 macro WER 降低 17.7%,其余三个模型降低 5.3-5.8%。

  28. arXiv · cs.CL19

    决策模型在越南语文本分类上的零样本迁移效果如何?一项实证研究

    一项实证研究评估了四个专用决策模型在越南语零-shot 分类中的表现,覆盖六个任务组共 13 个分类设置,并测试英语、越南语和双语标签描述及 teencode、拼写错误、去声调等语言扰动的影响。结果显示,英语标签描述下 JEV 表现最强,在 11 个分类设置中排名第一,双语描述并无一致提升;去声调导致的性能下降最大,使平均 macro-F1 降低 9.51–15.47 分。

  29. arXiv · cs.CL33

    Multi-Token Prediction 与替代 Tokenization 助力语言模型大规模学习潜在多跳图搜索

    一项 arXiv 研究指出,语言模型难以在图上从起点 s 生成到终点 t 的最短路径,原因在于监督信号与 tokenization 两方面。作者从理论和实验上证明多-token 预测(MTP)有效且其收益与图拓扑无关,并引入替代 tokenization,证明两者正交。结合这些方法,模型突破了此前工作的规模瓶颈,能在远超以往限制的图规模上稳定求解该任务。

  30. arXiv · cs.CL26

    对话系统观点选择的立场粒度研究:概念级立场向量如何影响用户接触不同观点

    一项对话系统研究用 bandit 策略控制可选观点与用户的距离,并比较标量立场打分与 Perspectivized Stance Vectors(将立场拆分到概念层面)。被试间实验(N=63)显示,概念级立场带来更多样的观点曝光和更广的立场覆盖,但不改变用户论证观点的深度或复述准确度。分析还发现,用户在“某一方未表态”的概念上复述观点最不准确,而非双方分歧的概念上。

  31. arXiv · cs.CL29

    LLM 如何在健康摘要中保留临床对齐:从结构化记录到患者可读叙事

    一项针对月经健康监测的研究用结合结构化证据约束与 RAG 的受约束生成框架,评测 LLM 生成患者可读健康摘要时的语义漂移问题。在 3 个 LLM、4,500 份生成摘要上,通过 NLI、原子事实性与可读性指标评估显示,显式接地约束持续改善临床对齐,尤其提升不确定性保留。但这种改善以阅读难度和医学术语增加为代价。

  32. arXiv · cs.CL29

    TTS 评估中的验证器下限:多少表面罕见词错误其实是 ASR 错误?

    TTS 通常用 ASR 转录输出评估词错误率,但识别器本身的错误也会被计入。在 LibriSpeech 和 FLEURS 上,评估识别器对人类语音中极罕见词的漏识率达 33-67%,用另两族识别器复核后,至少一个识别器听到的词的表观 TTS 错误率降低两到三倍(极罕见 LibriSpeech 词从 10-13% 降至 3-5%)。直接忽略这些漏识词有偏:识别器在这些词上发现 TTS 错误的频率为 4-6% 对 0.2-0.3%,且推翻约半数保留的错误。

  33. arXiv · cs.CL27

    LLM 在知识图谱转文本生成基准上的实证研究

    一项 arXiv 实证研究将近期 LLM 与微调 encoder-decoder 模型在知识图谱转文本生成任务的标准基准上对比,并结合经人工标注验证的图 grounding 无参考 LLM 评估。结果显示 LLM 在 reference-based 指标上大幅缩小、部分场景下追平与微调模型的差距,且在图 grounding 指标上表现更好:提示模型产生的矛盾和三元组遗漏更少,而微调模型的此类错误随图规模增长更快。两种评估方式相关性有限,反映其衡量生成质量的不同侧面。

  34. arXiv · cs.CL51

    扩散语言模型用于困惑度感知的黑盒攻击研究

    论文提出将连续潜空间黑盒攻击框架直接耦合到扩散语言模型(dLLM),去掉随机映射,生成更自然的攻击提示。在 RareTrap 采样估计和 ThinkTrap 优化搜索两种设置下,字符级困惑度分别从 10^3–10^7 降到 3–5、从 20–28 降到 4.3–5.4;两种映射得到的模型风险估计可相差一个数量级。

  35. arXiv · cs.CL16

    双语语言模型能捕捉二语阅读中的跨语言影响

    双语语言模型的跨语言迁移与人类 L2 阅读中的 L1 偏向相符。研究基于 12 种母语背景读者阅读英文的眼动数据,发现使用与读者母语匹配的双语模型比单语英文基线和其他母语模型更能预测 L2 阅读时间。这种预测优势集中在晚期眼动指标,受 L1-L2 文字系统重叠程度调节,并在中等水平读者中最明显。

  36. arXiv · cs.CL55

    研究用 LLM 智能体审计 Slovak FineWeb2 语料,发现 5.32% 机器生成内容农场

    论文提出用 LLM 智能体作为语料调试器审计多语言数据管线,通过只读、有预算的 API 探索语料并将发现编译成可执行测试,再由母语者验证。在 FineWeb2 的 26.5M 文档斯洛伐克语子集上,三次运行各花费 $2.21-$2.84,共发现四个现象的七项问题,最大的是 1,408,437 篇(5.32%)通过管线过滤的机器生成内容农场;盲测支持 7 项中的 6 项(缺陷率 .53-1.00 对随机对照的 .08)。编译后的测试套件 0.7 秒即可扫全语料无需 GPU,而单次 LLM 分类需 $12k-$90k;最佳静态采样基线以不到一半成本验证了比任何智能体运行更多的选择器。

    推荐理由:论文把 LLM 当语料调试器用一次而非逐条分类,并对比静态采样基线的成本与效果,方法对比值得数据质量工作者参考。

  37. arXiv · cs.AI44

    面向 Agentic AI 的认证执行框架:推理与动作之间安全、最小侵入的 Petri 网监督控制

    一篇 arXiv 论文用 Petri 网将 LLM Agent 的工具执行框架形式化为监督控制问题,使未满足或已消耗前置条件的注入请求无论措辞如何都会被拒绝。论文引入重规划闭环,证明传统监督器可能比更严格的安全监督器侵入性高任意倍,并刻画了最小侵入监督器。在自主发布 Agent 上的综合实验表明,安全部署需要一个监督器可在 rollout 开始后拒绝的步骤。

  38. arXiv · cs.AI29

    面向 EU AI Act 合规的 AI 风险本体 AIRO 与 VAIR 及其与 DPV 的集成

    研究者提出 AI 风险本体 AIRO 和 AI 风险词汇表 VAIR,用于描述 AI 用例及其相关风险,辅助 EU AI Act 对高风险 AI 系统的风险管理与文档要求。两者基于 ISO/IEC 23894 和 ISO/IEC 22989 开发,并已通过共识流程集成进 Data Privacy Vocabulary(DPV),将 DPV 范围从数据扩展到 AI,以支持复用和多法规合规。

  39. arXiv · cs.AI27

    审计学习式访问控制中的人工编写输入

    一项 arXiv 研究审计了学习式访问控制依赖的两类人工构建组件:硬拒绝集与区域路由映射。在五个公开 ABAC Lab 策略上,作者穷举验证最多 794,250 元组的关系,发现忠实转录显式限制的条款在 1 位作者和 3 个盲测语言模型引出者下不可靠率达 0.50-0.70,97% 的反例由其他规则授予;未经校验的拒绝集会扣留策略 16-78% 的授权。研究还发现混合路由的排序候选池在全部 24 个单元格中均为单类,且在两条真实策略上多数选择规则在两类损失下结论相反,已发布工件可复现所有数字。