跳到正文
10月23日周五
  1. arXiv · cs.CL42

    Shorter Is Not Cheaper:声明式动画规范与自由代码生成 LLM 解释的受控对比

    一项预注册的受控研究发现,声明式动画规范并非生成 LLM 交互式解释的更廉价方案。测试涵盖三个 Claude 模型(360 个任务)与 Qwen3-14B(240 个任务),规范输出虽短 25-48% token,但推理开启时仅最大 Claude 模型总输出显著下降,且无模型生成显著更快。可靠性方面,自由代码一轮修复后 95-100% 有效,而 Qwen3-14B 的规范仅 33% 有效、17% 通过全部语义测试。

  2. arXiv · cs.CL36

    从噪声检索到决策证据:silver-evidence 示例提升 RAG 上下文学习

    研究提出 silver-evidence demonstrations,用 LLM 生成的目标条件证据摘要替换 ICL 示例中的原始检索段落,以过滤长噪声上下文中的干扰信息。在 EI 2.0、SciFact、合成政策检索和 HICRIC/IMR 四个数据集上,该方法在三个数据集上超过等规模的纯 gold ICL,在所有有标注数据集上提升证据 F1,并在四个数据集上的平均标签准确率均高于 InstructRAG 式 ICL。

  3. arXiv · cs.CL41

    RVL-CDIP 数据质量系统性审计:约 10.5% 文档标签错误

    研究者对文档分类标准 benchmark RVL-CDIP 进行系统审计,发现其 400,000 份文档中约 10.5% 标签错误,35.2% 的测试集在训练集中存在重复或近似重复。移除页面识别码后 SOTA 模型损失 11 个百分点,图像模型在分布外文档上损失 16 至 28 个百分点。团队重训 25 个模型并发布去标识化修正语料,重训的 13 个模型准确率提升 0.9 至 2.9 个百分点,最高的 LayoutLMv3 达 96.5%。

  4. arXiv · cs.CL48

    现代文本嵌入模型的几何盲区:情感信息可解码但度量不可分

    arXiv 论文发现,2021–2026 年的 11 个冻结文本编码器普遍存在解耦现象:线性探针能以最高 91.3% 准确率从嵌入中解码句子情感极性,但余弦相似度的极性分离边际仅 0.003–0.064,Qwen3-Embedding-4B 探针准确率 91.3% 而 retrieval MAP 仅 64.3。作者提出 SISE 方法,用 0.13M–0.69M 参数的监督对比头在 CPU 上数秒训练,可将 retrieval MAP 提升最高 +26.0,但 128 维头在 STS-B 上损失 38–41 个 Spearman 点,属于专精化而非免费收益。论文同时开源 CPU 可复现管线和 Attribute Alignment Gap 诊断工具。

  5. Hugging Face · 新模型:uncensored60

    DeepSeek-V4.1-Flash-1017 的 FP8 无对齐版发布,HarmBench 320 项零拒绝

    dealignai 发布了 DeepSeek-V4.1-Flash-1017 的无对齐 FP8 权重版本,仅做权重级消融,保留视觉、视频、工具调用、推理档位和原生 1M token 上下文,不含量化派生、聊天模板改动或 LoRA。HarmBench-320 在 reasoning_effort=max 下 320/320 全部 COMPLY、零拒绝;内部 MMLU(1140 题)从基线 87.63% 降到 83.77%,降 3.86 pp,人文学科降 7.31 pp。仓库为 gated 访问,MIT 许可,另提供 EXL3 2.9 bpw 版本。

    同一新闻,精选展示《DeepSeek-V4.1-Flash-1017 无对齐 FP8 权重发布,HarmBench 320 题全部合规》

  6. arXiv · cs.CL35

    EDWARD-NMT:面向神经机器翻译的弹性维度、自适应路由与双一致性 MoE 架构

    研究者提出 EDWARD-NMT,一种面向神经机器翻译的 MoE 编码器-解码器架构,支持“一次训练、随处部署”。它结合 Matryoshka 式弹性维度、带可学习阈值的自适应 sigmoid 路由和双一致性目标,可在推理时提取一系列子网络。在 PhoMT(En-Vi)、WMT-14(En-De)和 OPUS-16 等基准上,完整模型匹配或超过强 MoE 基线,子网络无需再训练即可稳定优于同等规模的稠密 Transformer。该工作已被 EMNLP 2026(Findings)接收。

  7. arXiv · cs.CL42

    研究大语言模型(LLM)在多重文化身份线索下的价值选择偏差

    一项 arXiv 研究测试了 LLM 在同时收到国家身份与语言身份线索时的文化价值表现。在 World Values Survey 选择题探测中,语言线索对答案的影响约为显式国家线索的三倍,但方向偏离对应国家的分布;在 160 万条开放式回答中,点名国家能弥合 30-44% 与模型自身回答的差距。研究认为国家与语言线索应作为不同信号分别评估,而非可互换的文化代理。

  8. arXiv · cs.CL17

    用文本与多模态 ICL 让大语言模型预测音乐 Valence 与 Arousal

    研究提出用大语言模型的 in-context learning(ICL)改进音乐 Valence 和 Arousal 连续预测:小任务模型先给出初始预测,再用辅助数据集示例修正。在 MER60 全集作为 held-out 测试集上,基于歌词和音频描述的文本 ICL 用 80 shots 将 valence R² 从 0.110 提升到 0.427,含原始音频的多模态变体仅用 10 shots 达到 0.346。这种免训练方法提供了一种推理时的音乐情感预测策略。

  9. arXiv · cs.CL18

    IndoNutriQA:印尼语临床营养问答基准发布

    研究者发布 IndoNutriQA,一个由专家整理的印尼语临床营养问答基准,包含 911 个基于真实临床营养报告构建的问答对,涵盖营养护理流程(NCP)的 8 种标准化问题类型。数据集支持生成式、抽取式和检索增强 QA 及零样本/少样本 LLM 评测,并报告了 IndoBERT、mT5、RAG 等基线和对 8 个当代 LLM 的评测结果。LLM-as-judge 评分在事实性与完整性上接近人类专家,但在临床安全性上不可靠。

  10. arXiv · cs.CL25

    时间同步端到端 ASR 模型的搜索空间复杂度与效率系统性比较

    一项发表于 IEEE SLT 2026 的研究系统比较了 CTC 与 neural transducer 端到端 ASR 模型在不同剪枝策略和语言模型配置下的搜索空间复杂度与效率。研究发现这些模型多数时间只需小搜索空间,但在不确定时段假设数会出现临时峰值;基于分数的剪枝可动态适应模型不确定性,显著降低实时率(RTF)。结果指出了低固定 beam 剪枝的局限,并为端到端 ASR 的高效搜索提供了实践指南。

  11. arXiv · cs.CL53

    arXiv 论文提出记忆感知奖励模型,学习 LLM 记忆使用的人类偏好

    一项 arXiv 研究(arXiv:2610.31272)收集了 87 名参与者约 1,000 条成对偏好判断,发现基于记忆的 LLM 回复并不总是比无记忆回复更受用户偏好,部分场景用户反而强烈偏好后者,自动评估器也更偏向使用记忆的回复。论文提出的记忆感知奖励模型达到 72.8% 的偏好预测准确率,超过现有基线,主张将记忆使用的评估与优化目标对齐到用户偏好。

    推荐理由:论文用用户自己的对话和记忆做偏好判断,指出记忆加入并不总被用户偏好,并给出可复用的记忆感知奖励模型方法。

  12. arXiv · cs.CL28

    CoWriter:引导方法论与协同的人机共创写作

    研究者推出 CoWriter,一种主动式智能体写作方案,将认知科学中的人类专家合著方法引入人-LLM 协同写作全流程。探索性用户研究显示,相比标准 LLM 基线,用户的智能体成功互动多 2.2 倍,表达个人观点和文档掌控感更强,外部评审认为成文更具叙事等“人味”特质。

  13. arXiv · cs.CL29

    语言 Agent 中记忆的价值:一个决策论框架

    一项 arXiv 研究提出决策论框架,刻画语言 Agent 中记忆从原始历史到持久状态、使用及有代价恢复与修订的价值链路,并以避免任务损失的单元度量价值。基于成本感知模拟条件与五个反例,论文揭示信息时序、检索访问、反馈与需求不确定性的作用,并指出零互信息的指针也能降低精确恢复成本。研究还在 LoCoMo 等诊断任务上展示保存、使用与度量方面的失败,给出记忆分配与恢复选项保留的可检验原则。

  14. arXiv · cs.CL48

    Cola2:连续语义压缩与平衡离散生成协同的层级语言建模

    研究者提出层级语言生成框架 Cola2,将连续语义压缩与离散文本生成解耦并协同优化,通过无辅助损失的负反馈控制压缩率,结合重建与生成监督学习紧凑潜在表示。约 2100 亿 token 训练量的五项下游任务实验显示其具备竞争力且未饱和的扩展性;在 3460.3 亿源 token 下,未收敛 checkpoint 在八项任务上平均达 60.10,并在 HellaSwag 和 StoryCloze 上超过 Llama-3-8B,而后者预训练预算超过其 43 倍。

  15. arXiv · cs.CL55

    arXiv 论文提出 StateTrack-Bench 基准刻画长对话中的状态完整性崩塌

    研究者在长程对话中定义并量化“状态完整性崩塌”,即模型记住了约束却不再对后续轮次执行,并发布 StateTrack-Bench 基准。七个模型快照的严格联合保持率在 62.4% 到 100.0% 之间,forked recall 审计显示 88.6% 的失败属行为漂移而非遗忘;Structured State Anchoring 方法在不可变约束上最多提升 24.4 个百分点。论文已被 EMNLP 2026 主会接收。

    推荐理由:论文把长对话中记住了约束却不再执行的现象量化命名,88.6% 失败属行为漂移的发现对评测设计有参考价值。

  16. arXiv · cs.CL41

    SurveyGraph:基于方法-实体知识图谱自动生成学术综述

    SurveyGraph 是一个围绕方法-实体知识图谱(MEKG)的学术综述自动生成框架,支持核心论文发现、混合大纲与证据门控叙事合成。图感知检索在八次运行中将召回率较扁平词法基线提升近一倍(p = 0.004),语义证据门 AUC = 0.75;160 句人工审计中 80.6% 获得引用支持。该工作已被 EMNLP 2026 Findings 接收。

  17. arXiv · cs.CL24

    CrisiLangs:面向危机预警生成的多语言资源发布

    研究者发布 CrisiLangs,将英文危机预警数据集 CrisiText 扩展至意大利语、保加利亚语、德语和希腊语,共涵盖 411 个场景中的 1,000 个事件、五种语言合计 5,000 条事件-预警消息对。微调多语言模型在 ROUGE-L、BLEU 和 BERTScore 上各语言均优于 zero-shot 基线;人类偏好实验显示低解码温度在五种语言中最受青睐。

  18. arXiv · cs.CL56

    AfterDeleteBench 论文审计 LLM Agent 删除记忆后的信息残留

    Ehsan Saleh 在 arXiv 发布 AfterDeleteBench,一种对固定权重 LLM Agent 删除记忆后信息残留的受控行为审计方法。实验显示 Qwen2.5-7B-Instruct 在单次查询下约三分之二的情况可恢复已删除的密文,未暴露对照组恢复为零;即使密文原串已删、只剩按公开组合规则分开存储的组件,Qwen、Mistral 和 Phi-3 仍能以 62-99% 的比例精确重建。来源感知的闭环(provenance-aware closure)消除了测试中的恢复现象,而精确字面写入过滤器只能阻止重插、无法清除已存在的信息。论文 25 页,含 7 图 12 表。

    推荐理由:论文给出可复现的删除后信息残留审计方法和对照实验设计,对做 Agent 持久记忆的人有直接参考价值。

  19. arXiv · cs.CL15

    长文档视觉问答的任务中心综述:分类体系、演进与未来方向

    该综述以任务为中心,将长文档视觉问答(VQA)分解为文档解析、证据组织与检索、生成器组织与学习、评估四个组件,并为每个组件建立细粒度分类体系。时间分析显示研究重心从多模态内容理解扩展到高保真证据获取与持续证据管理。作者展望了证据充分性、可验证可纠正的理解、预算感知协调及持续文档理解等未来方向。

  20. arXiv · cs.CL28

    面向低资源黏着语巴什基尔语的大语言模型参数高效适配:语料库、数据集与可复现基准

    一项研究发布巴什基尔语开源资源套件与适配方法系统基准,含 71,567 篇文档、46.9M tokens 的网页语料及三个文本分类标注数据集。实验覆盖 82M-8B 的八种架构,比较全量微调、QLoRA、in-context learning 和持续预训练(CPT):QLoRA 在二分类上优于编码器微调,YandexGPT-5-Lite-8B 加 CPT 达 macro-F1 0.748,高于 XLM-R 的 0.653 和 mBERT 的 0.650。CPT 效果因模型而异,西里尔 tokeniser 更优,且 LLM 评审无法复现母语者的语言正确性评分,母语评测仍不可少。

  21. arXiv · cs.CL48

    SQuAT:球面格点向量量化感知训练

    论文提出 SQuAT,一种面向十亿参数 LLM 的形状-增益向量量化感知训练(VQ-QAT)方法,用分离的 STE 对方向和增益分别更新,方向通过 E8 球面码本量化。其分布式最近邻分配方案将 VQ-QAT 训练时间缩短 12.8 倍,并扩展到 10B token。在 instruction-tuned LLaMA-3.2-1B/3B、Qwen3-4B 和 base Qwen3-1.7B 上,SQuAT 在相同码本和初始化下始终优于标准 VQ-QAT STE,达到 SOTA VQ-QAT 精度。

  22. arXiv · cs.CL16

    SyRA-CS:基于 Reptile 元学习的语码切换 ASR 合成到真实自适应框架

    研究者提出 SyRA-CS,一种基于 Reptile 元学习的合成到真实自适应框架,用于语码切换(CS)语音识别。该框架对每种语言对和预训练模型在合成 CS-FLEURS 子集上做元训练,再用 1 小时标注真实目标语音自适应,覆盖 Arabic、French、German、Hindi-English 四组及 Encoder-CTC、FastConformer-RNN-T、AED、Speech-LLM 四种架构。SyRA-CS 在全部 16 组模型-语言对比较的 WER 上优于持续微调,XLS-R 相对 macro WER 降低 17.7%,其余三个模型降低 5.3-5.8%。

  23. arXiv · cs.CL19

    决策模型在越南语文本分类上的零样本迁移效果如何?一项实证研究

    一项实证研究评估了四个专用决策模型在越南语零-shot 分类中的表现,覆盖六个任务组共 13 个分类设置,并测试英语、越南语和双语标签描述及 teencode、拼写错误、去声调等语言扰动的影响。结果显示,英语标签描述下 JEV 表现最强,在 11 个分类设置中排名第一,双语描述并无一致提升;去声调导致的性能下降最大,使平均 macro-F1 降低 9.51–15.47 分。

  24. arXiv · cs.CL33

    Multi-Token Prediction 与替代 Tokenization 助力语言模型大规模学习潜在多跳图搜索

    一项 arXiv 研究指出,语言模型难以在图上从起点 s 生成到终点 t 的最短路径,原因在于监督信号与 tokenization 两方面。作者从理论和实验上证明多-token 预测(MTP)有效且其收益与图拓扑无关,并引入替代 tokenization,证明两者正交。结合这些方法,模型突破了此前工作的规模瓶颈,能在远超以往限制的图规模上稳定求解该任务。

  25. arXiv · cs.CL26

    对话系统观点选择的立场粒度研究:概念级立场向量如何影响用户接触不同观点

    一项对话系统研究用 bandit 策略控制可选观点与用户的距离,并比较标量立场打分与 Perspectivized Stance Vectors(将立场拆分到概念层面)。被试间实验(N=63)显示,概念级立场带来更多样的观点曝光和更广的立场覆盖,但不改变用户论证观点的深度或复述准确度。分析还发现,用户在“某一方未表态”的概念上复述观点最不准确,而非双方分歧的概念上。

  26. arXiv · cs.CL29

    LLM 如何在健康摘要中保留临床对齐:从结构化记录到患者可读叙事

    一项针对月经健康监测的研究用结合结构化证据约束与 RAG 的受约束生成框架,评测 LLM 生成患者可读健康摘要时的语义漂移问题。在 3 个 LLM、4,500 份生成摘要上,通过 NLI、原子事实性与可读性指标评估显示,显式接地约束持续改善临床对齐,尤其提升不确定性保留。但这种改善以阅读难度和医学术语增加为代价。

  27. arXiv · cs.CL29

    TTS 评估中的验证器下限:多少表面罕见词错误其实是 ASR 错误?

    TTS 通常用 ASR 转录输出评估词错误率,但识别器本身的错误也会被计入。在 LibriSpeech 和 FLEURS 上,评估识别器对人类语音中极罕见词的漏识率达 33-67%,用另两族识别器复核后,至少一个识别器听到的词的表观 TTS 错误率降低两到三倍(极罕见 LibriSpeech 词从 10-13% 降至 3-5%)。直接忽略这些漏识词有偏:识别器在这些词上发现 TTS 错误的频率为 4-6% 对 0.2-0.3%,且推翻约半数保留的错误。

  28. arXiv · cs.CL27

    LLM 在知识图谱转文本生成基准上的实证研究

    一项 arXiv 实证研究将近期 LLM 与微调 encoder-decoder 模型在知识图谱转文本生成任务的标准基准上对比,并结合经人工标注验证的图 grounding 无参考 LLM 评估。结果显示 LLM 在 reference-based 指标上大幅缩小、部分场景下追平与微调模型的差距,且在图 grounding 指标上表现更好:提示模型产生的矛盾和三元组遗漏更少,而微调模型的此类错误随图规模增长更快。两种评估方式相关性有限,反映其衡量生成质量的不同侧面。

  29. arXiv · cs.CL51

    扩散语言模型用于困惑度感知的黑盒攻击研究

    论文提出将连续潜空间黑盒攻击框架直接耦合到扩散语言模型(dLLM),去掉随机映射,生成更自然的攻击提示。在 RareTrap 采样估计和 ThinkTrap 优化搜索两种设置下,字符级困惑度分别从 10^3–10^7 降到 3–5、从 20–28 降到 4.3–5.4;两种映射得到的模型风险估计可相差一个数量级。

  30. arXiv · cs.CL16

    双语语言模型能捕捉二语阅读中的跨语言影响

    双语语言模型的跨语言迁移与人类 L2 阅读中的 L1 偏向相符。研究基于 12 种母语背景读者阅读英文的眼动数据,发现使用与读者母语匹配的双语模型比单语英文基线和其他母语模型更能预测 L2 阅读时间。这种预测优势集中在晚期眼动指标,受 L1-L2 文字系统重叠程度调节,并在中等水平读者中最明显。

  31. arXiv · cs.CL55

    研究用 LLM 智能体审计 Slovak FineWeb2 语料,发现 5.32% 机器生成内容农场

    论文提出用 LLM 智能体作为语料调试器审计多语言数据管线,通过只读、有预算的 API 探索语料并将发现编译成可执行测试,再由母语者验证。在 FineWeb2 的 26.5M 文档斯洛伐克语子集上,三次运行各花费 $2.21-$2.84,共发现四个现象的七项问题,最大的是 1,408,437 篇(5.32%)通过管线过滤的机器生成内容农场;盲测支持 7 项中的 6 项(缺陷率 .53-1.00 对随机对照的 .08)。编译后的测试套件 0.7 秒即可扫全语料无需 GPU,而单次 LLM 分类需 $12k-$90k;最佳静态采样基线以不到一半成本验证了比任何智能体运行更多的选择器。

    推荐理由:论文把 LLM 当语料调试器用一次而非逐条分类,并对比静态采样基线的成本与效果,方法对比值得数据质量工作者参考。

  32. arXiv · cs.AI44

    面向 Agentic AI 的认证执行框架:推理与动作之间安全、最小侵入的 Petri 网监督控制

    一篇 arXiv 论文用 Petri 网将 LLM Agent 的工具执行框架形式化为监督控制问题,使未满足或已消耗前置条件的注入请求无论措辞如何都会被拒绝。论文引入重规划闭环,证明传统监督器可能比更严格的安全监督器侵入性高任意倍,并刻画了最小侵入监督器。在自主发布 Agent 上的综合实验表明,安全部署需要一个监督器可在 rollout 开始后拒绝的步骤。

  33. arXiv · cs.AI29

    面向 EU AI Act 合规的 AI 风险本体 AIRO 与 VAIR 及其与 DPV 的集成

    研究者提出 AI 风险本体 AIRO 和 AI 风险词汇表 VAIR,用于描述 AI 用例及其相关风险,辅助 EU AI Act 对高风险 AI 系统的风险管理与文档要求。两者基于 ISO/IEC 23894 和 ISO/IEC 22989 开发,并已通过共识流程集成进 Data Privacy Vocabulary(DPV),将 DPV 范围从数据扩展到 AI,以支持复用和多法规合规。

  34. arXiv · cs.AI27

    审计学习式访问控制中的人工编写输入

    一项 arXiv 研究审计了学习式访问控制依赖的两类人工构建组件:硬拒绝集与区域路由映射。在五个公开 ABAC Lab 策略上,作者穷举验证最多 794,250 元组的关系,发现忠实转录显式限制的条款在 1 位作者和 3 个盲测语言模型引出者下不可靠率达 0.50-0.70,97% 的反例由其他规则授予;未经校验的拒绝集会扣留策略 16-78% 的授权。研究还发现混合路由的排序候选池在全部 24 个单元格中均为单类,且在两条真实策略上多数选择规则在两类损失下结论相反,已发布工件可复现所有数字。

  35. arXiv · cs.AI45

    HERD:面向持续学习的 Harness 演化递归蒸馏框架

    研究者提出 HERD(Harness-Evolving Recursive Distillation),一种混合持续学习框架:在 harness 中高效学习,并通过带双锚点的漂移约束知识蒸馏把经验内化为累积能力,抑制灾难性遗忘。在 TRACE+17 的 25 阶段任务流上,在固定内存与计算预算下,HERD 在新任务习得上匹敌最强参数化基线,同时遗忘最少、通用能力保持最好。

  36. arXiv · cs.AI49

    AgentPhishing:一个针对 LLM 邮件智能体自适应攻击的基准

    研究者推出 AgentPhishing 基准,评估说服式钓鱼攻击能否让 LLM 邮件智能体遵从恶意请求,并提出 PhishOpt 方法针对单个智能体优化可复用的邮件生成技能。在九个智能体的评测中,四个钓鱼检测率低于 10%,恶意请求遵从率高于 45%。结果表明传统钓鱼评测无法推断智能体安全性,需评估其对说服式恶意请求的响应。

  37. arXiv · cs.AI46

    同一实体、不同文字:诊断语言模型跨文字实体匹配失败

    一项 arXiv 研究用 601 对天城文-拉丁文审计身份对测试发现,Qwen2.5-7B 在马拉地语提示下,同一人名判断准确率从拉丁文的 35.1% 降至天城文的 8.5%。在 374 对马拉雅拉姆语对上复现了该效应,0.925 AUROC,且标量校准可恢复 87% 的模型-探针平衡准确率差距。对 Qwen 中间层的干预将马拉地语同一人准确率从 6.5% 提升至 33.5%,不同人准确率保持 98.5%。

  38. arXiv · cs.AI45

    顶级期刊已发表论文遭遇 LLM 同行评审:四大模型大多给出大修或拒稿

    一项 arXiv 研究让四个 LLM(两个闭源、两个开源)以盲评方式评审来自 Nature、Science、Cell 等 20 本期刊的 200 篇 2026 年已发表论文,800 份评审中 75.6% 建议大修或拒稿,各模型比例从 17.5% 到 100% 不等(p < 0.001)。在被植入一个特定领域方法学或统计缺陷后,各模型检出率为 17.0% 到 60.5%,显示模型间结论高度不一致且假阳性与漏检并存。

  39. arXiv · cs.AI26

    面向神经网络可解释性的事后特征选择层(post-hoc FSL)

    研究者提出 post-hoc FSL,一个轻量可训练模块,可在已冻结的预训练模型上事后优化特征权重,不改动原模型架构与参数。该方法在统计与视觉指标(accuracy、F1、recall、precision、weighted t-SNE、silhouette score)上与 Integrated Gradients、DeepLIFT、Gradient SHAP、Feature Ablation 等事后方法对比,在合成与真实表格数据上均能识别相关特征,在保持原模型预测能力的同时提升可解释性。该工作已被 2026 IJCNN 接收。