基于残差校正的内存高效子空间优化:从 Momentum SGD 到 Muon
一篇 arXiv 论文提出残差校正框架,在子空间中维护优化器状态并将正交残差梯度加入参数更新,以降低 LLM 训练的内存成本。该框架将 momentum SGD 扩展为 SMRC、将 Muon 扩展为 PMRC,二者均达到 O(T^{-1/4}) 收敛率,与全空间版本匹配;多阶段变体通过周期性重算基并引入边界校正保持同阶收敛率。实验验证了算法的有效性与效率。
新闻、仓库与研究,按时间排列。
一篇 arXiv 论文提出残差校正框架,在子空间中维护优化器状态并将正交残差梯度加入参数更新,以降低 LLM 训练的内存成本。该框架将 momentum SGD 扩展为 SMRC、将 Muon 扩展为 PMRC,二者均达到 O(T^{-1/4}) 收敛率,与全空间版本匹配;多阶段变体通过周期性重算基并引入边界校正保持同阶收敛率。实验验证了算法的有效性与效率。
论文提出 DeltaStreamer,一个受人类观察、记忆与调查方式启发的智能体式流式视频理解框架。该框架结合变化感知记忆、查询驱动的规划与定向回放取证,在查询到来前持续记录视觉变化,到来后检索记忆并回放历史帧以补回遗漏证据。在 OVO-Bench 和 StreamingBench 上分别取得 66.07% 和 59.53% 的总分,超过代表性方法。
arXiv 论文提出 Paired Fallback Robustness(PFR)测试,评估类型化决策模型(TDM)在请求路由、模型选择等场景中切换常规与 fallback 选项的可靠性,以及同一规则在逻辑等价定义下决策的一致性。在三个 benchmark 上对开源决策模型、不同架构与参数规模的对照实验发现:正确识别类别并不能可靠转化为正确的 fallback 选择,逻辑等价的规则表述也会导致模型决策出现明显分歧。
研究者提出 Euler,一个以人为中心的数学研究系统,围绕共享的结构化研究过程表示构建,将数学陈述、假设、证明依赖、备选路径、失败尝试与验证证据组织成连通的研究图谱。该表示让研究者可追溯结果的推导过程,并为智能体提供跨会话的持久任务相关知识,支持规划、协作与验证,还可回访智能体早期推理并探索替代方向。论文通过三个数学研究案例展示系统能力,并给出实现与软件验证。
Ai2 气候模拟系统 HiRO-ACEv2 发布,核心是新的降尺度模型 HiROv2,可同时预测降水、风、气压等多个高分辨率场,对百万分之一概率的极端事件统计误差在 3% 以内。整套系统生成全球 3 km 气候数据的成本约为高分辨率大气模型 X-SHiELD 的 1/300,10 年模拟中飓风能量与 X-SHiELD 相当。模型可下载并提供教程与网页 Demo,但目前仅支持与 X-SHiELD 匹配的气候场景,后续计划训练 4°C 增暖版本。
一项 arXiv 研究在 15 个医学数据集、8,742 个实例上对比了 Jev 等系统一决策模型与 LLM 的可靠性。结果显示 Jev 在文本驱动任务上可比肩领先模型,但在数值驱动任务上较弱,且在题目格式变化下决策翻转率最低、鲁棒性最强;同类开源替代中仅 StartLux 具有相近鲁棒性。不过多数模型在识别缺失正确答案和选择性弃答上均有局限,归一化逐选项二值评分可提升 Jev 基于概率的选答效果。
该 arXiv 论文重新审视“温暖语气降低语言模型可靠性”的结论,指出既有研究多在共情对话数据上做 SFT,难以区分语气效应与分布偏移。作者用提示词、SFT 与 RL 诱导温暖行为,基于 11 个数据集的 benchmark 套件和 EMOFACT 评估,发现温暖效应因任务和模型而异,任务对齐的自适应语气可兼顾共情与可靠性,并推出经人工验证的共情评估器。
研究者提出 CREATE,一个包含 155 道视觉远联想测试(RAT)题目的半自动构建基准,要求模型从三张看似无关的图像中找出潜在联系。团队通过 25 人的人类研究验证基准质量,并评估 11 个 VLM,结果显示多数 VLM 在该任务上表现不及人类,其联想能力依赖文本提示概念,不能普遍迁移到视觉谜题。
一项 arXiv 研究利用大语言模型分析了 2022 年以来四个地区(北美、中国、印度、中东)的 12,924 篇英文 AI 新闻报道,提取每篇文章隐含的叙事教训。结果显示北美 AI 报道独有地以谨慎叙事为主,低估了其他地区更普遍的创新与协作叙事;但这一模式主要源于北美新闻情绪上更广泛的消极偏向,而非对 AI 本身的担忧加剧。
一项 arXiv 研究提出从文本的可解释语义属性预测标注者分歧:让 LLM 回答 20 个二元问题(涵盖有害内容特征、临界严重度、缺失语境、本地贬损语等线索),再用分类器预测分歧。在英语、德语、土耳其语四个数据集和三个开源权重 LLM 上,该方法比直接提示高 10.5 ROC-AUC 点、比最强文本基线高 5.0 点;仅 8 个问题的精简版与全集差距在 1.5 点内,跨数据集评估保留约 90-95% ROC-AUC。贬损、缺失语境与决策边界相关问题是最强预测因子。
Fabian Gröger 在 arXiv 论文(NeurIPS 2026 camera-ready)中提出 PORTAL,一种无需配对图文数据与梯度优化的免训练 projector 初始化方法。研究发现仅用 10 到 20% 数据训练 projector 即可恢复大部分下游性能,且不同数据集训练的 projector 可线性插值,表明该阶段主要做粗对齐。PORTAL 通过在共享主子空间上计算视觉与语言特征高斯近似间的最优传输映射跳过 projector 训练,在 6 个 LLM 骨干、2 个视觉编码器和 16 个基准上匹配 558k 图文对训练的标准流程,在 7 组设置中 3 组超越该流程,其余 4 组平均达到其 98% 的分数。论文链接:https://arxiv.org/abs/2610.18598v1
一项 arXiv cs.CL 研究剖析 LLM 在动态诊断中失败的原因,追踪其从证据识别、利用到下游诊断更新的全过程,除诊断准确率外还考察证据覆盖率、轨迹动态、概率与信息熵。研究发现 LLM 虽能诊断完整的静态病例,但难以主动获取对诊断关键的证据,核心挑战从是否具备临床知识转向能否在动态诊断中识别并有效利用正确证据。
arXiv 论文提出 DDRG(Disagreement-Driven Verification Guided by Reasoning Graphs),利用图对齐暴露采样推理轨迹中的 claim 级分歧,并将局部冲突交给无答案验证器触发针对性修复。在五个 benchmark 上,原生 zero-shot DDRG 使 Qwen2.5-7B 和 Llama3.1-8B 的 macro-average 准确率较直接回答分别提升 8.65 和 15.83 个百分点,并超过 CoT、GoT/GoV 适配版及 Self-Consistency。
arXiv 论文提出 Jev-ToM 评测框架,对比 5 个类型化决策模型与 7 个生成式基线,在来自九个 ToM benchmark 的 11,117 道英文题上进行测试。TypeSafe Jev 达到 73.2% source-balanced accuracy,在全部六类能力中排名前二,在信念、目标/意图与情绪方面领先。资源对比显示 Jev 可降低重复 ToM 选择的成本与等待时间,但其基于置信度的选择仍依赖具体 benchmark。
arXiv 论文提出 Legal-R1,一种用于循证法律推理的智能体检索框架,将法律推理分解为多智能体工作流:Lawyer 智能体学习何时检索、查询何种法律来源及证据是否充分,Legal Assistant 智能体基于权威性与多样性从规范法律来源和判例中检索,Judge 智能体依据完整证据轨迹生成最终答案。仅对 Lawyer 智能体采用掩码监督微调与轨迹感知强化学习进行后训练,在中国法律基准上超越通用、法律专用及检索增强基线。
一篇 arXiv 论文(arXiv:2610.18613)重新检验了自蒸馏方法 SDPO 与 OPSD 在代码、科学、工具使用和数学推理任务上的表现,发现其相对强化学习(RL)的收益不能稳定泛化到未见问题。作者认为收益主要来自过拟合或迁移既有推理行为,而非有效利用特权信息;自蒸馏梯度与直接优化期望回报的策略梯度对齐较弱。实验覆盖 Qwen3(1.7B-14B)和 OLMo-3-7B,结论是有效利用特权信息改进推理仍是开放问题,代码已开源。
推荐理由:论文在代码、数学等多任务上复测 SDPO 和 OPSD,指出其收益主要来自过拟合而非特权信息,并给出复现代码。
论文提出直接知识图谱交互框架 DKGI,让大语言模型智能体在完整节点与边文件上用 Python 代码自建图谱访问工具,交替执行 shell 搜索与文件检查。在覆盖三个域的基准数据集上,免训练的 DKGI 在每张图上超过最强已发表基线至少 6.7 Hit@1;消融显示多轮编程优于仅用 shell 或预定义图谱工具,轨迹显示智能体会修改代码以扩展搜索或修正错误。代码与数据已公开。
推荐理由:论文给出免训练的图谱搜索框架和跨三个域基准上至少 6.7 Hit@1 的提升,消融还拆解了多轮编程相对固定接口的收益。
研究者提出 COMPASS(COMPatibility ASsessment Score),一种在模型对齐或合并前估计模型对兼容性的诊断方法。该方法基于局部邻域的表示收敛观察,将兼容性分解为 k-NN 重叠定义的成对易合度与训练范式允许的范式级上限两个可低成本计算的轴。在 72 项跨模态对齐实验和 392 次任务算术模型合并中,COMPASS 估计与下游成功强烈相关,Pearson 相关平均分别达 0.91 和 0.70。
一项 arXiv 研究在 64 个分子性质预测数据集上系统评估化学语言模型(CLM)的预训练效果,发现其下游收益不随规模扩展,性能在低于梯度提升基线处饱和。只有基于传统理化描述符的监督预训练能持续提升表现,部分预训练方式甚至使模型差于随机初始化编码器,表明 CLM 从预训练中学到的化学知识很少。
BASIS(Bayesian Axis Selection via Interactive Signals)是一种免训练的贝叶斯方法,利用测试时弱反馈推断当前决策由任务特定准则库中的哪个准则主导,并按期望信息增益选择探针。该方法将六探针概念恢复 Success@1 从 56.0% 提升至 68.1%,推理准确率从 72.3% 提至 73.1%,精修胜率从 61.4% 提至 63.8%,并超过算力匹配的 best-of-N 选择。论文已被 NeurIPS 2026 接收。
一项提交至 ICASSP 2027 的研究提出直接从语音中检测语码转换(CS)的轻量方法:利用单语录音识别预训练语音编码器中的语言选择性隐层维度,并聚合其帧级激活做出预测。在 CS-FLEURS 的 14 个语言对上,Whisper-small 编码器平均 F1 达 0.798,高于 CNN 的 0.776 和 HuBERT 线性基线的 0.751,可用于筛选多语训练语料。
arXiv 论文指出,自然语言自编码器(NLA)作为语言模型监督工具存在监控盲区:训练是生成式指称博弈,而监督部署是判别式博弈,二者的差距意味着 Activation Verbaliser 的解释能识别对应激活,却难以区分真伪描述。实验中,真描述在 320 次比较中全部胜过其他激活的描述,但面对仅差一个论断的流畅假描述胜率仅 60.2%(n=35,随机水平 50%);无关模型改写仅损失 2.1% 距离,排除了私有约定导致失败的可能。
研究者从专业人道主义灾情报告中提取 15 槽位信息框架,评估 121 份人工报告与 261 份 LLM 生成报告。在 Cyclone Idai 上,gemini-3.7-flash 评审下最佳机器报告得分 0.827 略高于人类上限 0.821,但差异在统计上不可区分,且在 gpt-5.6-luna 下不复现;机器报告仅复现 5.4-11.0% 的当日官方数据,且发布来源信息(日期、机构、权威性)均未达到专业报告覆盖水平。
arXiv 论文提出点式量规奖励模型 ReVeR,仅从指令本身推理出硬规则与分级原则,并通过工具增强的裁决独立评估回答,避免现有方法从候选回答提取标准带来的响应诱导偏差。其组件经 label-blind 知识蒸馏训练,产出大规模量规推理数据集 ReVeR-Traces。实验显示 ReVeR 在平均偏好准确率上超过成对式量规 RM,且量规保真度、偏好准确率与下游效用是相互独立的属性。
SkillScaffold 是一种策略自适应训练框架,通过复用结果验证的训练轨迹、以结果感知的似然比较低成本估计技能效用,无需候选专属环境 rollout,并据此选择性注入技能或保持无技能执行。在 ALFWorld、WebShop、ScienceWorld 和 τ²-Bench 上超越强智能体 RL 与技能型 RL 基线,代码已开源。
研究者推出全模态视频定位与理解 benchmark OmniCompass,含 OmniCompass-VL 与 OmniCompass-AV 两条评测轨道,各含时序定位(TG)、空间定位(SG)和问答(QA)三类任务。OmniCompass-VL 含 820 个视频、2,460 个实例,OmniCompass-AV 含 240 个视频、720 个实例。对 50 个 MLLM 的评测显示开源模型仍落后闭源模型,尤其在视听理解方面,时序与空间定位对领先模型仍是挑战。
arXiv 论文提出将对地观测(EO)任务交给通用编码 Agent 递归自我改进:任务被拆解为 harness 和 verifier 两个组件,Agent 自行构建并改进 EO 模型。在覆盖光学、SAR 和多光谱时序影像的四个 EO benchmark 上,Agent 构建的模型超越 SOTA,且仅用约 1% 训练标签即保留大部分精度。
研究者推出 Audio Memory Operations(AMemOps)基准,用于评估长音频流中的最新属性检索、未变属性保持与缺席声源拒绝。在测试乐器的其他录音上训练后,参考 delta-rule 记忆相比匹配的 attention 更新优势提高 13.4 个百分点;120s 检索延迟实验分离了重复一致性与早期冲突值的代价。
OneRec 团队发布 Kwai Summary Attention V2 技术报告。针对 KSA-Full 混合架构中各层压缩块必须一致、Full attention 层二次方 prefill 开销等瓶颈,KSA V2 让 summary token 同时承担 KV memory 和 sparse indexer 两种角色,实现更灵活的 KV cache 压缩并降低计算成本。
一项发表于 arXiv 的研究通过两项实验检验熟悉声音的克隆语音是否会将人格印象迁移到虚拟角色上:实验 1 在真实大学场景使用学生熟悉的讲师克隆声音,实验 2 在线上使用社交媒体创作者的声音。结果显示人格迁移证据有限,效应具有选择性且不跨特质或情境泛化,线上实验中声音线索仅激活对说话者的预期而未重建整体人格印象,缓和了克隆声音会直接操纵用户将虚拟角色视为社会行动者的担忧。
SMI(Semantic Medical Identifier)是一种免训练框架,将诊断、手术、药物概念在本体中的粗到细路径定义为 Semantic ID,并聚合冻结 biomedical LM 嵌入构建层级感知的医学概念表示。该方法对长尾稀有临床编码尤为有效,在 MIMIC-IV 上提升了死亡率预测、再入院预测、药物推荐与罕见药物预测,在 eICU 上跨医院分布偏移下表现更稳健。论文已被 NeurIPS 2026 主会接收。
arXiv 一项研究(arXiv:2610.18674,被 AACL-IJCNLP 2026 接收)分析大语言模型的上下文夹带现象,覆盖 19 个词汇-语义子类型的关系补全提示。结果显示,同语义族间的干预迁移效果超过跨族迁移,且不同关系子集会反复发现许多全局共享的注意力头。研究表明,缓解有害的上下文复制不宜依赖孤立的关系专属回路,而应利用异质提示找到可复用的干预目标。
提出生成式轨迹规划(GTP),一种基于模型的在线决策框架,用扩散模型作为动作序列的提议分布,再结合学习到的动力学、奖励和价值模型进行精炼,避免每步从头求解高维优化。在连续控制与长时域操作任务上,GTP 达到或超过 model-free、diffusion policy 和 model-based 基线,且在强基线退化的场景中保持稳定。
论文提出 ProAS,一个即插即用的多轮智能体强化学习优势塑形框架,解决 GRPO 等无 critic 算法将轨迹级优势均摊到所有动作的信用分配问题。其通过动态演化的 Agentic Reference Graph 实现细粒度信用分配,包含 Masking Unreasonable Incentives 与 Asymmetric Penalty Redistribution 两个机制。在 Qwen2.5-1.5B-Instruct 和 Qwen2.5-7B-Instruct 上,ProAS 将主流组式基线提升至 SOTA,ALFWorld 峰值成功率分别达 91.9% 和 94.3%,WebShop 达 66.7% 和 70.8%,训练收敛最高加速 2.44 倍,且对不完美或蒸馏的 ARG 保持鲁棒。
研究提出 Grounding Awareness,即个人智能体在执行动作时区分用户已接受、未确认、已修改和限定范围的约定的能力,并构建受控 benchmark 测试。实验发现,记忆性能强不等于具备该能力,更完整的用户信息反而会增加执行未确认提案的情况,持久记忆会让智能体把提案当作用户指令。团队还推出免训练的 Grounding Layer 扩展,显式追踪 grounding 状态并检查关键动作,在不改动模型和记忆系统的情况下显著改善行为。
RadarGSOcc 是一个直接处理 4D 雷达张量的 3D 语义占用预测框架,通过分离提取含 Doppler 信息的几何与语义特征,并采用可变形注意力几何精化模块。该模型在 51.2m 范围内预测 15 类,取得 38.2% IoU、7.6% mIoU 与 25.5% weighted mIoU,较 RadarOcc 相对提升 17%(25.5 vs 21.9),且参数与计算量更低。作者还提出首个基于 4D 雷达张量的 K-Radar 3DSemOcc 基准及 EBKL 代理指标,数据集与代码将公开。
Varest 提出基于语义可替换性的图像 token 压缩方法:对象与文本定位器引导变分辨率合并以保留边界和文字细节,学习型 [REL] 寄存器在解码器早期处理后剪枝视觉 token。该方法在每个预算下的平均性能保留率均超过 15 个基线,在 3 个 backbone 和 13 个 benchmark 上仅用 5.56% 的原始图像 token 即保留 86.10-92.33% 的全 token 性能。
Rong Li 等在 arXiv 发布 GeoReader 框架,训练轻量 Geometric Reader 生成连续几何 token 注入 VLM,几何描述仅作训练目标,推理时无需生成几何思维链。用 RGB 图像预测几何后,Qwen3-VL-4B 在 MindCube-Tiny 达 94.3,Qwen3.5-9B 配多源 QA 混合数据在六个空间基准平均得 72.5;论文还发现已有特征对齐模型清零对齐 latents 后准确率不变。
论文提出 UniW(A)M,一个基于扩散 Transformer 的混合专家框架,统一动作条件世界建模与多种世界动作模型变体,以共享专家捕捉共同物理动态、原子能力专家跨接口复用。在 LIBERO、RoboTwin 2.0 及三个真实操作任务上,真实世界平均成功率达 88.3%,最强基线为 76.7%;WorldArena 上动作条件世界建模三项任务均领先;PAIR 路由将 OOD 成功率从 63.3% 提至 76.7%,且部署时主干冻结。论文正在 ICLR 2027 评审中,共 34 页。
推荐理由:论文统一了世界模型与世界动作模型的训练,真实操作任务成功率比最强基线高出 11.6 个百分点,并给出 PAIR 的 OOD 数据。
该 arXiv 论文提出一种免训练方法,通过一阶泰勒近似的梯度估计器将过程奖励归因到单个 token,仅需一次前向与反向传播。得到的 P2T token 级奖励可使标准 RL 算法实现精确 credit assignment,无需额外训练奖励模型,在 Qwen2.5-VL-7B-Instruct 的 MathVista 上比 outcome reward 高 4.9%,在 Qwen2.5-Math-7B 的 AIME24 上高 11.5%。