MIST 评测诊断视频世界模型的记忆失败:瓶颈在于执行而非记忆
研究者提出 MIST 评测,将指令变更与记忆分离,发现视频世界模型失败瓶颈在于未执行指令变更,而非遗忘。据此提出的 M3-Agent 方法递归修订输入指令细节,使模型成功执行请求,MIST reveal 得分较基线提升逾三倍,WRBench 的 T 提升 26.1%,MBench-T 的 U 提升 52.7%。
新闻、仓库与研究,按时间排列。
研究者提出 MIST 评测,将指令变更与记忆分离,发现视频世界模型失败瓶颈在于未执行指令变更,而非遗忘。据此提出的 M3-Agent 方法递归修订输入指令细节,使模型成功执行请求,MIST reveal 得分较基线提升逾三倍,WRBench 的 T 提升 26.1%,MBench-T 的 U 提升 52.7%。
ConvexLLM 是一个通用语音与音频语言模型,其 C-Gate 接口将音频表示为冻结文本嵌入的连续凸组合。该模型在 VoiceBench 十一项任务上取得 75.36 的聚合分数,是对比的开源权重模型中最高,MMAU Test-mini 准确率为 62.50%。与 2B 参数解码器的对比显示,C-Gate 在语音任务聚合表现上优于 MLP 和 Q-Former 接口,文本任务表现接近 MLP,语音知识与推理任务优势最大。
arXiv 论文系统评估了七款 20M–1.5B 参数的开源小型语言模型在后渗透攻击代码生成任务(目录枚举与后门生成)中的表现,比较 Python 与 Lua、提示策略、语法约束解码及执行反馈循环。结果显示攻击性代码生成能力不随模型规模线性增长,任务形式化影响大于提示词工程。Qwen2.5-Coder 1.5B 结合算法形式化与 few-shot 提示,在 Python 和 Lua 的目录枚举任务中达到 Pass@5 100%,后门生成在 Python 达 100%、Lua 达 99.2%。
研究者发布 EduWild 数据集,包含 217 个教师配置聊天机器人的 1,726 段对话,并建立 29 类失败分类法。分析显示最常见问题是未遵循教师意图:53.8% 的终端用户对话跳过必需流程步骤,37.1% 出现信息过载。基于此设计的提示词修复方案在 200 名大学生的实验中,将目标失败数从 1.406 降至 0.489,相对减少 65.2%。
一篇 arXiv 论文提出 Contrastive Factual Evidence(CFE)及其概率对应 Contrastive Factual Posterior(CFP),通过比较同一事实性陈述在事实与非事实条件下的似然度来评估 LLM 事实置信度。CFP 在保持与最强竞争者相当的事实判别能力的同时显著改善校准;但低资源语言中判别能力普遍偏弱。作者进一步沿事实证据方向将目标语言陈述与更强的英文证据对齐,无需目标语言标签即可提升判别和开放式事实生成。
一项 arXiv 研究构建了含 500 个争议问题、共 5,500 个评测实例的基准,在立场不变的情况下改变用户论证的叙事形式,测试 7 个 LLM 的谄媚程度。结果显示效应并非随叙事展开单调变化:个人经历会降低模型附和,而因果框架和世界观式综合会增加附和;GPT-5.1 消融实验表明因果框架影响最强,保留原要点的分点呈现也比段落形式更易引发附和。这表明谄媚不仅取决于用户立场,还取决于支撑解释的结构与呈现方式。
研究者构建首个覆盖 Perceive、Solve、Reason 三级渐进能力的时间序列-LLM 训练评测套件,含 337K 训练和 44K 评测样本。实验表明专用编码器必不可少:4B 模型在所有感知属性上超越 GPT-4o,而将序列文本化会使推理准确率下降 8–10 个百分点。按序训练的 4B TS-LLM 在无目标域数据情况下,在 8 项域外指标中的 7 项超越四个近期 7B TS-LLM,最高领先 11 个百分点。
LocalIntent 是一种面向本地部署 LLM 的结果导向提示方法,将请求分流到普通命令分支或持久规则分支,并进行确定性校验。在 2B-9B 参数的 Gemma 和 Qwen 模型上测试,规则生成方面意图理解从 26.4% 提升至 80.6%,规则模式正确率从 49.1% 提升至 98.6%;非持久请求的提升较小,意图理解从 39.6% 升至 53.2%。该方法整体优于 Monolithic 和通用两阶段提示,但澄清/模式正确率仍依赖具体模型。
一项 arXiv 研究用持续同调追踪神经网络激活中的环结构,发现噪声监督会在表征几何上留下可测量的签名。在 CIFAR-10/ResNet-18 训练探针上,corrupted-label 子集在 epoch 10 无持续同调差异,但 epoch 50 时持续同调更高,即使仅 7-11% 的 corrupted 探针样本预测与噪声标签一致。在五条 pipeline 的噪声率校准对比中,mean activation norm 的样本内 R2 均值达 0.936,高于 raw persistence 的 0.908。
Munin是一个开源自托管科研助手框架,可索引研究组文献库和引用图谱,并把任意开放权重模型包装成带阅读、检索和计算工具的智能体。在199组配对文献问题上,框架将基座模型准确率从0.387提升到0.874,而朴素检索式回答在所有测试骨干模型上均低于无辅助模型;移除来源论文后系统在约九成问题上放弃作答,300条伪造引用中未产生虚构的本地引用;断网状态下两个Qwen骨干模型仍超过已发表的PaperQA2准确率,其中gpt-oss-20b可在单张消费级GPU上运行。
QD-Rec 是一种质量-多样性(quality-diversity)推荐方法,将开放式搜索范式引入决策场景:用 contextual bandit 选择物品,由基础模型基于档案中的已有假设生成新的自然语言理由,新的推荐只有在足够新颖或优于最近邻时才进入档案。在并购、客户定向以及论文和图书推荐等任务上,QD-Rec 在多数设置中取得最高平均质量并构建出最大的档案。
研究者提出图攻击原语 GAP,用统一的原子语义表示融合文本与结构扰动,避免攻击意图割裂导致的不隐蔽问题,并进一步构建多智能体框架 S-GAP 迭代优化语义内容。在 4 个数据集、3 个 GraphLLM 和 2 种攻击设置上的实验显示,S-GAP 较最强基线平均提升 ASR 7.02%,同时扰动更具关系合理性,揭示了当前 GraphLLM 的关键脆弱性。
HydraLLM 是一种基于 MQA 的弹性架构,通过激活注意力头数量动态调整嵌入、注意力投影、FFN 与输出头的有效宽度,并在单一参数集内形成嵌套子网络家族,配有静态转弹性转换流程(重要性驱动脉冲重排、随机子网络训练与知识蒸馏)。75% heads 激活时 TriviaQA 准确率比参数多 17.25% 的 SOTA 嵌套基线高 2.2 个百分点;50% 激活时多模态模型 CLIPScore 与大 7 倍的 Gemma 3 4B 相当;25% 激活时 token 生成吞吐量较全宽配置提升 75.3%。
研究者提出 GatewayBench,首个针对 MCP 网关的统一评测框架与基准。其包含 524 个任务、来自 251 个真实 MCP 服务器的 11,118 个工具,将网关架构分为扁平化与分层两类,并对 7 个主流 MCP 网关开展良性与对抗任务评测。结果显示不同网关设计在任务完成率、工具使用效率和抗攻击能力上差异显著,且与底层模型和 agent harness 强相关。
LLM 标注者常把第二人称称呼误判为毒性,这一偏差制造出人类标注中不存在的“对话规律”。在 125 万条带众包标注的新闻评论上,Claude Haiku 将不含"you"的无毒评论误标 12%,含四个及以上"you"的误标 51%,导致毒性随回复深度上升(每层 +0.93 个百分点),而众包标注下反而略降(-0.12);测试的全部七个 LLM 都过度标记"you"。论文提出的 Threadsafe 方法用人工标注校正模型预测,1000 个人工标注即可排除 Haiku 的上升规律,区间宽度在 1000-8000 标注下为 DSL 方法的 0.75 倍。
研究者提出 RecReg,一个通过恢复式屏蔽(recovery-based shielding)在强化学习中强制执行非马尔可夫正则安全性质的安全 RL 框架。该框架统一支持不同层级的先验知识与安全保证,论文主要在表格型设定下构建理论基础,提供了相关工作所缺乏的严格安全性与收敛性保证。基于 MASA-Safe-RL 库的大量实验表明 RecReg 学习高效且与理论相符,作者还概述了使用 SOTA model-based RL 扩展到深度 RL 领域的方案。
ScoutRoute 是一种轻量级事后路由框架,通过对低成本 scout 模型的单次前向传播提取内部语言模型信号,用 logistic 探针结合 logit 置信度估计异构专家模型的能力,无需修改底层模型。该方法在 5 个开源语言模型和 4 个覆盖数学推理、代码生成、常识推理与多学科知识的基准数据集上评测,一致优于单一路由信号,且能力探针的校准优于传统置信度度量。
研究团队提出 PolicyLift,一个从观测数据出发、针对文本消息或图像等复杂结构化动作进行生成式策略改进的三阶段框架。该框架先学习离散动作编码,再学习基于上下文的编码级策略,最后以编码为条件生成动作,并从理论上证明编码级策略的提升可保证原始动作空间策略的提升。在合成数据与真实文本生成任务实验中,PolicyLift 均一致优于行为策略。
Jaewon Sok 在 arXiv 发表论文,提出许多闭卷事实错误源于模型在首 token 选错,而答案知识已编码在模型中。实验显示在 16 个开源模型上,仅预填正确首 token 就能纠正英文 QA 多 token 答案中五分之一到一半的错误,并在多语言基准的全部 7 种语言中提升准确率;这类可恢复错误集中在首个解码步骤,是推理时方法可能收益最大的位置。论文链接 https://arxiv.org/abs/2610.23400v1
推荐理由:论文给出 First-Token Cueing 探针和 16 个开源模型的实测数据,把一类闭卷错误定位到首个解码 token,可借机了解推理时干预的着力点。
研究提出 AWAM(Active World-Action Model),一种主动规划观察位置并在执行前沿规划轨迹想象所见画面的虚拟主动感知范式。该模型将任务相关虚拟相机运动作为结构化查询输入几何条件世界模型,生成可复用空间先验,压缩为固定记忆后通过 cross-attention 与实时观测融合,进行基于扩散模型的动作预测。AWAM 在 LIBERO-Occ 上达 75.9%、LIBERO-Plus 上 62.4%、RLBench-OG Occlusion1 上 76.5%、真机实验中 94.4% 成功率。
SentenceETM 是一种神经主题模型,通过联合词汇与上下文证据为每个句子分配主题,弥合词级概率模型与文档级 Transformer 方法之间的粒度困境。每个主题由词嵌入上的分布和聚焦低维子空间的句子嵌入高斯共同描述,文档比例用摊销变分推断推断,高斯参数以闭式解重估。实验显示其在句子级主题分配上持续优于 SOTA 方法。
一项 arXiv 研究提出 canary contracts 协议,检测 LLM 框架中证据已被识别却未送达决策点的监控失效问题。该协议在 11 个 LLM 或 agent 安全项目组、四个实现生态中确认 18 起证据路径失效,其中 14 起触及 E1 执行边界。研究建议对框架演进的 schema、流、工具和适配器层进行回归测试。
研究者提出自监督学习方法 OliO,通过线性常微分方程(ODE)导出的转移算子,将双向时间流建模为连续且结构一致的动力学系统,以对齐任意时间跨度上的潜在表征。对转移矩阵施加严格上三角约束,确保数值稳定并防止无约束 ODE 模型的指数发散。实验显示 OliO 在多种骨干架构与基准上取得显著提升,MSE 较最强 SOTA 基线最多降低 5.75%,代码已开源。
论文提出 LM2LM,用强化学习训练大语言模型生成语言模型改进提案,并以研究世界模型(RWM,一个冻结 LLM)从真实实验记录预测提案收益作为奖励,定期执行高排名提案以更新上下文保持反馈可靠。在八个自回归与扩散 LM 开发环境中,Qwen3.8-27B 经 LM2LM 训练后在留出任务上超越获得 300 条真实实验记录的 GPT-6-sol,数据生成成本降低 33%,并能泛化到训练未见的模型家族。论文链接 https://arxiv.org/abs/2610.23344v1
推荐理由:论文用研究世界模型替代真实训练反馈来训练改进提案模型,并给出跨八个环境与 GPT-6-sol 的对比数据,方法可参考。
一项新研究提出免训练的修复层 SchemaShield-Lite,结合 schema 验证、候选集重试和一次性约束修复,提升 LLM 智能体在接口漂移下的函数调用鲁棒性。在 Qwen3.5-9B 上,该方法将 DICE-300 准确率从 0.717 提升至 0.813,BFCL-200 从 0.580 提升至 0.805,分别恢复 19/22 和 33/45 个漂移导致的失败,且未观察到修复副作用。消融实验显示候选集漂移(尤其是干扰工具)是主要损害来源。
研究者提出 AgentOnto,一个本体引导的 LLM 智能体,将数据库、业务文档与既有示例任务中的异构企业知识组织成本体,用于直接引导分析并吸收已确认的反馈,还能通过自生成分析任务迭代优化本体。在两个公开数据源上,AgentOnto 显著优于代表性方法,模块级评估验证了本体构建、分析与更新各环节的有效性,实际企业部署也展示了其实用价值。
MemCompile 是一个面向长期对话记忆的查询条件化证据编译框架:Address Plane 通过带来源链接的描述符和容量感知 Cells 定位相关支持,并经归一化边界将异构检索结果统一为稳定的 SourcePacket;Evidence Plane 则在有限证据预算内选择并渲染出可直接作答的上下文。该框架在 LoCoMo 上取得 80.52% 的 Judge Accuracy,将质量-成本 Pareto 前沿推向更高质量区间,并在 LongMemEval-S 上同样表现强劲。
研究者提出自反思思维链(SRCoT),将 LLM 生成组织为 Retrieve--Reflect--Revise 闭环,把环境状态、持久知识、经验与短期记忆分入带来源标注的存储,用 BM25 检索提供本地上下文。原型在配备 128 GB 内存的 Apple M4 笔记本上本地运行,于急救医疗和 Munich-Sim 应急仿真两个合成场景中展示了来源标注、缺失标记与结构化输出。作者强调这是研究性概念验证,尚未证明幻觉减少或操作安全性,且需人工审查。
一项研究提出用 token 概率评分方法进行母语识别(NLI):将文本样本作为指定候选母语的前缀的续写打分,选取得分最高的候选者。实验使用 Llama 3.1 8B 和 70B,在 TOEFL9、Write and Improve 2024 和 BULATS-L1 三个数据集上评估,结果显示该方法显著优于直接分类提示,70B 模型在所有数据集上达到 SOTA。
研究团队发布 MobileInject,首个评估移动端 MLLM 智能体多模态注入攻击与推理到执行安全风险的基准,包含 11 个场景、9 类安全风险和 108 个可执行风险实例。其提出跨模态一致性注入方法及 Multi-Role Collaborative Deception、Reasoning-Camouflage Injection 两种增强攻击,实验显示移动智能体普遍易受多模态注入影响,许多失效源于早期阶段的推理劫持。论文地址 https://arxiv.org/abs/2610.23307v1。
推荐理由:论文给出了针对移动端多模态智能体的注入攻击基准,覆盖 11 个场景 108 个风险实例,可用来定位智能体早期推理被劫持的失效点。
arXiv 论文提出 SimOPD,通过响应相似度分布将教师模型内部知识迁移给学生,避免直接隐状态匹配带来的特征空间绑定。学生在自身表示空间内匹配相似度分布,无需跨模型投影。实验显示,SimOPD 在同架构和跨架构设置下较最强基线分别提升最多 2.6 和 3.1 个百分点。
一项设计科学研究在企业 CFO 单位数据湖的真实部署中发现,业务用户的提示词常缺少 schema 引用和结构信息。研究设计并对比了两种语义中介方案:基于语义相似度的 schema 中介,以及利用从数据湖自动构建的知识图谱的中介。仿真评估结合 LLM-as-a-Judge 与人工验证显示,知识图谱方案在 Precision、Recall、F1 和保留用户意图上均优于 schema 方案。
开源智能体 Optimist Deep Research 将文献研究作为对显式可变研究状态的迭代证据获取过程:研究问题被拆解为子问题树,检索覆盖 arXiv、OpenAlex、Crossref、PubMed、Semantic Scholar 和网络,经四层去重和引文滚雪球扩展至饱和。文档并行读入结构化证据库,批评者沿八个维度返回研究行动而非二元判定,最终报告逐节生成且每条引用都可溯源。案例研究约三分半钟读完 237 篇检索文档中的 28 篇。
FlashReFocus 实现单张照片的秒级交互式重新对焦:每张照片只需运行一次 diffusion,后续编辑由轻量网络渲染,相比 GenRefocus 对焦快 148.3 倍,进一步编辑仅需约半秒(快 462 倍)。其一步 diffusion 去模糊器结合显式 defocus map 与 defocus-bias attention,可在保持对焦内容不变的同时支持移轴与双焦平面编辑。模型在 EBB! 和自建三相机基准 3CReal(89 对图像)上取得零样本 bokeh 渲染的最佳感知保真度。
扩散多模态大语言模型(dMLLM)依赖近似 KV 缓存加速解码,但会引发相邻位置重复同一 token 的「Repeat Curse」。研究者从信息流视角定位了步内注意力分散、跨步过期状态解码和深层熵不收敛三类扰动,提出免训练即插即用的 CoTA++,包含注意力重锚定、Decode-Aware Refresh 和熵引导投票三个组件。在三个 dMLLM 和两个缓存后端上,CoTA++ 将长回复重复率从最高 99.6% 降至至多 17.0%,在九个 benchmark 上挽回大部分精度损失,且缓存加速仅增加不到 15% 开销。
Annotrace 是一个用于对 LLM Agent trace 进行步骤级标注的工作台,可读取 OpenTelemetry GenAI、LangSmith、Langfuse 等六种 trace 格式,把每次运行转成有序嵌套的步骤列表,并让前沿模型与人类按同一套 codebook 联合标注。在多智能体问答语料上,它精确复现了此前人工标注的 235 个标注单元;两个模型标注同一批 trace 时一致率达 91%(κ = 0.82)。
研究者提出 VERITAS 方法,通过层间 Jacobian 投影言语化模型内部计算,追踪推理锚点如何在各层间迁移并出现在输出中,以检测思维链(CoT)忠实性。在 FaithCoT-Bench 与 BonaFide 的四个数据集上,VERITAS 的 balanced accuracy 较 LLM-as-Judge 提升 28.4%,较 activation probing 平均提升 16.0%,且可泛化到不同数据集与模型架构。
一项 arXiv 研究提出 LLM 智能体的逐决策记忆充分性问题:从全部记忆中选出小规模子集以保持完整记忆行为。作者推出含九类交互、六个工作流领域的 JointCoreBench 基准和按相关性代价排序的组删除基线 JointCore。在 6,912 个精确条件下,JointCore 100.0% 恢复最小代价充分集,将子集评估从 30.00 降至 11.13(减少 62.9%),实现 87.8% 活跃记忆节省;在四个 12B-70B 模型族上均值为 10.28 对 16.00 次模型查询。
论文提出 Self-Instructed CoT Controllability 评测方法,把约束作为自我指令放进思维链内部来测量模型遵循能力,结果显示自我指令下的可控性显著高于用户提示指令,即便只是提醒模型遵循用户约束也能明显改善。作者还演示了自我指令可用于监控规避,对 CoT monitorability 构成风险。
推荐理由:论文把 CoT 约束从用户提示挪进模型自我指令后可控性显著提升,并指出这会威胁 CoT 监控的可信度。
研究者提出 PrefMind,一个在线双智能体强化学习框架,用响应 Generator 和偏好 Critic 两个可训练智能体替代基于打分的 RLHF 流程,让模型通过显式判断与纠错学习人类偏好的内在原因。人类标注监督两个智能体的判断与修正,双方在交互中联合更新。三个模型规模上的实验显示,偏好判断能力和下游响应生成都得到提升。