81 种语言中的语言相对论研究:语义在哪里趋同、在哪里分化
一项 arXiv 研究比较了 81 种语言中 196 个基本概念的关系结构,使用两个多语言模型的词嵌入进行量化。结果显示,社会文化语义的跨语言一致性高于自然与运动语义;社会文化领域内的差异随地理距离增大,亲缘更远的语言在所有领域差异都更大。
新闻、仓库与研究,按时间排列。
一项 arXiv 研究比较了 81 种语言中 196 个基本概念的关系结构,使用两个多语言模型的词嵌入进行量化。结果显示,社会文化语义的跨语言一致性高于自然与运动语义;社会文化领域内的差异随地理距离增大,亲缘更远的语言在所有领域差异都更大。
研究者构建了覆盖 11 类人声混音问题、含多种严重程度的教学式课程数据,训练出语言可查询的音频评审模型 MixJudge。该模型能检索混音问题、区分相反问题并对问题严重程度排序。在菜单选择任务中,MixJudge 往往偏好声学上更接近留出专业版本的处理方案,显示显式混音判断可支持比较与下游混音决策。
Christian Arnold 等在 arXiv 发布论文,用有精确贝叶斯答案的双瓮博弈测量大语言模型拒收信息的代价,覆盖 OpenAI 和 Anthropic 两家模型、10 种描述配置共 6,600 次会话。研究发现模型常以与证据无关、而与报告者描述挂钩的比率拒绝评估信息,Black 描述的报告者被拒率最高达 46%,white 描述为 9%;该偏见在只比较平均信任度或仅看已评估案例的审计中不可见,且随推理力度增加而加重。作者还提出按多轮真实结果评分的方案,五组配置中有四组的种族信任差距在最后一轮降至 0.02 以下。
推荐理由:研究指出了常规偏见审计容易漏掉的一种机制,模型靠拒绝评估而非降低信任来隐藏偏见,并给出了可用的评分修正方案。
研究者推出 TutorCaseBench,基于教育学、教育心理学和特殊教育的定性案例研究评估 LLM 导师。基准包含 923 段对话、五种挑战类型,通过 1,560 项开放式生成和 2,537 项选择题评测。11 个 SOTA 模型中最强者也仅在 55.8% 的开放式案例中满足评分标准,开源权重模型在情境化适应上的差距更明显,数据已公开。
研究者推出 TRIAD 基准,用文本-图像-音频三元组评测全模态大模型的歧义消解能力,包含 327 个手写问题、86 个场景组和 18 类歧义。对 14 个全模态系统的评测显示,最佳模型的组级准确率仍落后人类 20 分以上;移除答案选项后模型组准确率跌至个位数,且现有系统在文本和图像并存时常低估音频线索。
研究者发布尼泊尔语-英语夹杂 ASR 基准,含 13,044 条自发播客语句(共 15.45 小时)。两阶段合成到真实适配框架中,仅用 0.95 小时 TTS 合成语音做 SFT,将 MER 从 23.40% 降至 21.52%,语言切换点错误率(SPER)从 35.89% 降至 28.77%;后续 GRPO 仅带来小幅统计显著调整。SFT 同时将尼泊尔语 MER 提升 2.71 pp,而英语词错率保持 3.38%。
arXiv 论文提出 Monte Carlo Privileged Distillation(MCPD),针对在策略自蒸馏(OPSD)中单一完整参考答案导致的"参考诱导目标不稳定"问题。MCPD 将特权上下文建模为多个部分参考视图的分布,对多个视图下的教师 next-token 分布取平均,等价于最小化期望 KL 散度。在数学与科学推理 benchmark 上,MCPD 持续优于完整参考条件的 OPSD。
arXiv 论文 2610.30882 通过频率、位置、形式与用法等无标注指标及错误注入实验,追溯推理模型中 {wait} 标记的来源,发现 zero-RL 几乎不会创造该词,在缺乏该词的 base 上 RL 大幅提升 MATH-500 准确率而 {wait} 几乎不出现。该标记主要由训练数据引入,如 OLMo-3 的 mid-training 和基于推理轨迹的微调;base 已有该标记时,OLMo-3 与 MiMo 的 RL-Zero 配方会放大其使用,而无 KL 的 GRPO 不会。论文还指出标记频率本身不能指示 RL 引发的推理,并警示 LLM-as-a-judge 修订指标可能逆转人工标注趋势。
推荐理由:论文用无标注指标和错误注入实验区分了 RL 与训练数据对 wait 标记的来源,方法可迁移到其他推理行为的溯源分析。
论文提出 ODCBNA,一个以施害者为中心的孟加拉语网络欺凌分析框架,整合本体设计、知识图谱、行为建模、社区分析与影响建模。基于 BenCoDiC 语料,其识别出 1,063 名施害者,以 64 维特征向量构建含 27,554 条边的加权网络;Louvain 分析发现 6 个社区(模块度约 0.495)和 27 个子社区,IM Greedy 影响分析在全部 6 个社区取得小幅正向增益。
一项 arXiv 研究提出受访者覆盖缺口(RCG)指标,衡量 LLM 生成的合成调查受访者与真实人类受访者在完整答案组合上的差距。在两个美国社会调查上,六款被评测的 LLM 均未能覆盖真实人类受访者,且在主要设置下低于从人类边缘分布独立抽样的基线;在所有测试的提示词与推理设置下,每个 LLM 的 RCG 都高于拟合人类数据的高斯 copula。
论文提出 HFCMA 框架,用于细粒度图文检索,先通过动态粒度发现(DGD)将图像 patch 与文本 token 聚合为语义紧凑的视觉区域和文本短语,再把区域-短语匹配建模为熵正则化的最优传输问题,并引入背景去偏、文本重要性加权和原型一致性正则。在 Flickr30K 和 MS-COCO 上的实验表明,该框架在双编码器检索下提供了结构化局部对齐信息,提升了对细微语义差异的区分能力。
研究者提出 ReflectPO,一个用于长程任务中自主错误恢复的强化学习框架,包含反思引导采样和树结构信用分配两个核心组件。在两个长程工具使用 benchmark 上,ReflectPO 在多数领域超越现有基线,平均总体性能最佳。分析显示该方法能提升 Agent 识别自身偏差、从错误状态恢复并持续推进任务的能力。
arXiv 论文(arXiv:2610.30934)研究了自然语言自编码器(NLA)的泛化能力,围绕组合结构、微调模型迁移、模型 diffing 恢复微调目标、专门化 diffing 四个问题开展实验,覆盖三个模型族的四个模型。结果显示 NLA 可在原模型的轻量微调版本上不经重训直接复用(仅最大模型重建质量明显下降),能从 Taboo 模型有机体与原模型的激活差异中恢复被隐藏的秘密词,且在用户提示词之前的 token 位置信息量最大;但在 emergent misalignment 检测任务上尚未超过最先进的模型 diffing 方法。
arXiv 一项研究提出包含 Prompt Faithfulness、Code Faithfulness 和 Reasoning Quality 三个维度、11 个子类的幻觉分类法,基于 60 条人工标注与 120 条 DeepSeek-R1 推理轨迹及 20 条 DeepSeek-V4-Pro 轨迹。在 13 个 Golden UML ModelSet 案例上,向 Qwen3 系列模型的提示词中加入两类约束使平均 F1 提升 4.0 个百分点,事后 Code Faithfulness 审查则无一致收益。
研究者推出 RetiJev 系列眼科临床决策模型(0.8B-9B),直接对候选答案打分而非自回归生成,并发布基于 PubMed Central 文献和 MeSH 词表构建的 RetiJev-Data 语料库与 24,662 题评测基准。RetiJev 在指南分级上比 27B LLM 和商用 Jev 1.13 决策模型高 10.4-23.0 分,RetiJev-9B 在临床决策上最高超出基线 5.4-6.5 分。单 GPU 回答一个病例仅需 158 ms,比 LLM 生成快 3.5 倍、比推理快 470 倍。
IQuest-Q1 是一款稀疏 MoE 智能体基座模型,总参数 320B,激活 15B,通过预训练、中期训练与多 scaffold 后训练三阶段流程构建。该模型结合 SFT、领域专项 RL 与 MOPD 强化智能体编码能力,并以开源形式发布。
一篇 EMNLP 2026 论文提出跨语言贫乏刺激(CPOS)实验设置,量化语言模型在持续训练中能否将 L1 的层级结构证据迁移到 L2。结果显示模型只能部分迁移,仅在 L2 产生小而可检测的层级偏置,且强度随语言对而变化。消融实验进一步表明,词表重叠对层级句法泛化的跨语言迁移至关重要,说明这种迁移只有在特定条件下才能实现。
这项研究探究了封闭集决策(如工具选择)所需编码器的最小规模及读取方式,发现 3200 万参数下逐选项打分比联合读取高 5.8 个机会校正分(约匹配训练算力时高 2.8),且不受选项顺序影响,而联合模型重排选项会改变 12-23% 的答案。发布的 6 个编码器中,6800 万和 1.5 亿参数模型在 209 个 System1-Arena 任务上分别超过 4.35 亿参数 DeBERTa-v3 零样本分类器 4.9 和 5.9 个准确率点,最小模型中位延迟仅 14 毫秒,对比 728 毫秒。
一篇 arXiv 论文提出统一评测框架,在 7 个模型和 3 个数据集上比较五种推理时上下文增强方法。研究发现准确率提升不总是真实改进,而更像无方向扰动,方法可能修正部分预测的同时破坏另一些预测,尤其是仅增加计算时间的填充 token 类方法。
arXiv 论文研究社交媒体上省略三段论(enthymemes)的检测:在疫苗和移民相关推文上,每条由五名标注者标注,所有微调模型的 F1 都停留在约 0.67,与数据规模、特征或标签类型无关。论文提出将预测与标注者投票的完整分布进行比较的评测指标,以及直接预测该分布、更好捕捉分歧且不损失 F1 的模型。研究发现模型依赖显式论证结构,难以识别链接隐含、需读者自行推断的论证。
arXiv 论文测试了八开放权重模型在 558 份真实文档上的 JSON 提取行为,发现 schema 中未被强制执行的最小条目数会让超过真实数量的列表占比从 34.5% 升至 55.4%。约一半填充条目来自文档原文,难以被校验发现;告知“少于也可”、散文式计数、提供 N/A 选项等修复方法效果有限,而用校验错误重问反而加剧填充。代码、答案列表与运行记录已开源。
推荐理由:论文用预注册实验量化了 schema 最小条目数如何导致模型凑数虚报,并实测了几种常见修复方法的有效程度。
一项 arXiv 研究在 120 对相邻中英文 Wikipedia 修订版本上测量 RAG 分块策略的更新成本,覆盖固定大小、递归和内容定义三种分块器。在 116 篇公共成功集合上,固定分块需重算 57-68% 的嵌入输入工作量,递归分块为 38-56%,内容定义分块为 43-54%;在 2048-token 检索预算下各方法的平均证据召回差异小于两个百分点。研究指出更新成本应与检索质量一同报告。
arXiv 论文提出 RIFT,一组基于选择的 KV cache 压缩策略,用于缓解推测解码中随输出变长产生的 decode staleness 问题,平衡 prefill 信息与近期生成 token,并引入自适应 KV 刷新与基于稀疏注意力掩码的可压缩性训练。经压缩训练后,Qwen3.5-4B 为 Qwen3.5-122B 起草时,在 32K token 输入、4K token 输出和 8K token KV cache 预算下保留超过 98% 的全缓存接受长度。
一项 arXiv cs.CL 研究提出主动偏好获取(APA),用未来任务期望累计收益减去询问成本与隐私风险的 Prospective Personalization Value 指标,决定 Web Agent 值得询问哪些用户偏好。在纵向基准 ActiveWebPref 上,20 个任务的视野下 APA 获取了 80.3% 依赖摊销的有价值缺失偏好,而仅看当前任务价值的方法只获取 5.1%,并以 27.6% 的问题恢复了全量询问 84.2% 的效用收益。
研究者提出 PRISM(Procedural mistake Recognition via Interpretable Semantic Modeling),用于程序性视频的操作错误识别:它将视频片段与语言对齐,并用在正确执行样本上训练的轻量级隐马尔可夫模型映射到程序状态,通过参考对齐和语义检查发现步骤内容与顺序错误。该方法将数据集标注统一映射为插入、删除、替换、移位四类错误,在三个 benchmark 上验证,语义角色标注在全部六组匹配的 grounded 对比中提升了 Any-F1。
Hao Wu 在 arXiv 发布 Delta N-gram 论文,提出向模型原生哈希 N-gram 表写入证据的 forward-only 路径,预训练表 T^0 不被修改,写入只走前向传播,清零补丁 Delta 即可还原原模型。0.6B 原型在第二次写入后保留 16/16 事实,而在线梯度写入只保留 2-4/16;在 35,000 次写入的七任务链上后期精度变化仅 -0.26/-0.52pp,论文链接为 https://arxiv.org/abs/2610.31125v1。
推荐理由:论文给出免反向传播写入 N-gram 记忆表的具体方法和多组稳定性数据,可与梯度写入方案直接比较。
研究者提出视频中心深度研究报告生成任务,并发布技能工作流与评测基准 OmniDR-Bench。该基准包含 50 个中英文任务、覆盖 19 个真实子类别、共 6,414 条标准,并采用 Omni Atomic Rubric Trees(Omni-ARTs)从视听定位、多模态证据使用和交互式呈现三个维度评估。在 18 个智能体配置中,最佳系统仅得 63.3/100 分,代码与数据已开源。
一项arXiv研究通过因果反事实干预,对四个驾驶VLA模型在不同benchmark上的可解释性进行检验。扰动模型自身推理文本仅引起较小轨迹变化,其影响远小于清空摄像头输入;移除推理中提及的关键物体后,推理与轨迹对场景变化跟踪也不一致。结果表明这些模型给出的驾驶解释与实际行为仅弱耦合,暴露了其可解释性的局限。
研究者在半干旱恢复区 27 个传感器站上,零样本评估了 500M 参数的 TimesFM 1 时间序列基础模型,预测 5 cm 与 30 cm 土壤水分及围栏温度,提前期 1 h 至 168 h。结果显示,TimesFM 在日内提前期上比 persistence、seasonal-naive、7-day climatology 等规则基线好 21-76%,超过一天后反而差 6-79%;带完整历史和天气协变量的 CatBoost 基线整体未获胜,部分归因于短期部署的冷启动效应。研究还量化了在普通 CPU 硬件上零样本预测的推理成本。
LAST-V2X 是一个由大语言模型(LLM)驱动的 V2X 应用自动化场景合成与安全测试框架,可将自然语言测试描述转译为可执行场景。框架结合交通仿真、通信语义建模与消息级故障注入,通过降级信息与真实信息的匹配执行来判定安全失效是否由通信引起,并利用参数搜索与 LLM 自反思的执行引导优化生成最小可复现失败案例。在多种 CARLA 环境和 V2X 安全应用上的实验表明,该框架能生成可靠场景、区分通信致因失效并显著提升失败发现能力。
研究者提出个人智能体基准 ColaBench,覆盖健康与日常生活场景,包含 349 个任务、10 个 Profiles 和 13,033 篇文档的知识库,通过 Evidence Graph 将个人状况与公开交互记录及文档证据关联。配套方法 MemKB 利用状态摘要、规则应用和记忆-文档链接检索知识,达到 86.25% Accuracy,平均每任务 4.07 轮交互。错误分析发现无依据的个人假设和规则误用是主要障碍。
一项 arXiv 研究针对生成式 AI 助手中植入广告的机制设计问题,提出名为 click thinning 的方法:随机省略广告,使每条广告的点击概率不再依赖广告排序,从而在竞价前答案及顺序已固定的情况下同时实现期望真实性与福利保障。该机制计算高效,在自由重排下可达到最优福利(广告商总点击价值)的一半,搭配 VCG 式付款使真实报价成为期望最优策略;当最多展示 K 条广告、每条点击率至多 δ 时,近似因子可从 2 改进到 2-(1-δ)^(K-1)。
SecLog-Bench 是一个可扩展的网络安全日志推理评测基准,构建覆盖 29 种攻击场景的仿真平台,结合审计日志、应用日志和网络流量多源证据,并为每个样本标注结构化分步证据链。对 8 个主流 LLM 的评测显示,最佳模型准确率仅 44.44%、Macro-F1 为 45.07%,最高 Stage Reasoning F1 仅 54.87%,表明当前模型攻击进展推理能力有限且推理质量与预测准确率常不一致。
arXiv 论文提出 Agri-SCHOLAR,一个面向农作物的滚动式农时建议框架,每隔几天或一周结合土壤作物属性、已观测天气、短期预报和历史相似年外推,生成个性化建议。系统用多个 LLM 智能体为可操作参数设定农艺合理的边界,优化器在边界内以产量、资源利用和经济可行性多目标奖励搜索,并以 APSIM 等作物模拟器作为评估 oracle。对南亚两个地点 11 年的玉米分析显示,Agri-SCHOLAR 持续优于当地标准种植方案。
研究者提出 RoSA,一个显著性感知微调框架,用于缓解长文本图文对齐中的「显著性坍缩」问题,即模型过度依赖视觉显著的文本而忽视非显著上下文。RoSA 将图文对分解为互补的显著与上下文视图,结合目标级视觉显著性估计与基于 LLM 的文本分解,并用辅助目标显式对齐两视图。该方法在多个 benchmark 上提升长文本检索性能,辅助目标即插即用,可为现有调优方法带来一致增益,代码与 checkpoints 已开源。
arXiv 论文提出评估人工智慧(AW)的基于轨迹的测量框架,将其行为化定义为对判断的情境敏感调节,并用九组件画像、两项转换指标和关键失败报告进行评分。三项简化模拟显示:单准则模拟在每领域 24 个情景时达到精度标准;瓶颈估计在接近平局时存在 0.55 点的下偏;增量预测模拟用 8 和 12 个模型族分别以 .508 和 .742 的概率检测到 0.027 的 Brier 改善。12 模型族目标仍属暂定,画像能否预测超越能力的独立决策结果仍是开放问题。
一项arXiv研究对比了机器人工具路由的四种策略:三种基于ChromaDB的语义检索方法(固定阈值、相对距离、子句感知聚合检索)与一个云端托管的1200亿参数LLM基线。在164条人工标注提示词上,检索方法CDB-v3取得最佳macro-average分数0.7822,LLM基线为0.8869。研究显示大模型路由质量更高,但CDB-v3延迟更低且可本地部署,适合隐私敏感和连接受限的机器人系统。
该研究在 Llama-3.1-8B-Instruct 上为 150 篇 Wikipedia 文章各训练一个单文档 LoRA 适配器,发现开卷分数主要衡量所有适配器共享的阅读行为:随机适配器可恢复专家适配器 82% 的开卷优势,但在不提供原文的 cloze 探针上仅约 2%,与零无法区分。内容确实进入权重——专家适配器在 cloze 召回上超出基线 0.094,但 16 篇以上文档的合并只能恢复 12% 到 16% 的 cloze 优势(联合训练为 94%)。作者还报告了四个会产生看似干净却错误结果的隐性错误。
研究者提出 CAKE,一个面向 Ascend NPU 可部署自定义算子的 CANN 原生系统,结合自适应多 DSL 路由、生成与进化双模式及 CAKE Book 知识复用。在 Ascend 950PR 上 53 个 CANN-Bench v1.1 算子测试中,CAKE 标准集用例通过率 100%(1,060/1,060),隐藏集 98.28%(4,167/4,240),相对基线平均 1.334× 加速;Evolution 模式使 EngramGateFusion 聚合设备时间降低 46.6%。
一篇 arXiv 论文提出“算法漂移”概念:生成式 AI 个性化辅导中,人口维度不对称的微小观测误差经反馈循环累积为系统性不公平。作者将其形式化为学习者—辅导者耦合动力系统,用基于 IRT 课程策略的 Monte Carlo 智能体仿真验证,并引入时间公平稳定器(TFS)——周期性重新探测学习者能力。仿真显示 TFS 能缩小通用探索无法消除的成就差距。