新闻、仓库与研究，按时间排列。
论文提出 SAFE-Mem，为 LLM 智能体持久记忆中的每条声明标注 kind、authority、scope 三种治理标签，并通过治理感知检索与记忆图阻止不可信声明被当作授权偏好或权限使用。在 MPBench 和 LoCoMo 上跨四个 LLM 骨干模型测试，SAFE-Mem 在保留合法记忆的防御中攻击成功率最低，比其中最强者低至少 77%，同时在所有评测防御中答案准确率最高，最多提升 15%。代码已开源。
推荐理由：论文用细粒度治理标签兼顾记忆安全与可用性，并给出攻击成功率与准确率的量化对比，方法可参考。
arXiv 论文提出 LURCH 基准，用证据范围、证据分散度和推理深度三项属性量化长上下文推理难度，包含 6,550 个带证据与推理图谱的多领域问答实例。对闭源与开源权重模型的评估发现：固定上下文长度下三项属性均与性能强负相关；上下文变长时，证据分散样本性能骤降而局部化证据样本相对稳定；且三项属性中等偏高的题目比仅一项极端的更难。
一项 arXiv 研究提出对 Mixture-of-Experts（MoE）大语言模型进行个性化，利用其稀疏路由降低多义性、定位个性化相关组件。研究在个性化数据集上适配三个开源权重 MoE 模型，并用 crosscoder 分析配对激活，识别编码个性化特征的专家。因果干预表明这些潜变量足以恢复个性化行为，且增强相应专家可将非个性化模型推向个性化行为。
研究者提出多会话 Agentic 强化学习（Multi-Session Agentic Reinforcement Learning）设定及方法 Mosaic，采用无 critic 的分层优化：在轨迹层将 session 使用信号纳入优势估计，在会话层按估计的边际贡献塑形各会话优势。在 Qwen3.5-4B 上的 BrowseComp 实验显示，Mosaic 在 context compaction 和 subagent forking 两种场景均优于广播式方法，且平均使用更少 session。
论文提出 Hy-Memory-30B-A3B，一个可跨 Mem0、MemOS 和 Hy-Memory 三种记忆框架工作的紧凑长期记忆写入模型，通过 Memory On-Policy Distillation 学习框架专属写入协议，再用带归因跨块奖励与块级 GRPO 的 Memory RL 优化下游可答性。在四个评测框架的固定 20% 子样本上全部排名第一，包括留出的 EverMemOS，macro 平均 55.49%，对比 Claude Opus 5 的 54.62%。
论文提出 FEB-30 基准，指出以下游问答准确率评估 Agent 记忆会混淆记忆正确性与检索和生成质量，产生假阳性和假阴性。该基准包含 30 条事实演化轨迹、6 个诊断类别和 3 个难度级别，通过范式反转从已知事实轨迹生成文档，无需人工标注即可获得确定性真值。应用于一个代表性记忆系统后发现，内在与外在评估平均偏差 16 个百分点，44% 的轨迹超出显著偏差阈值，记忆操作分类正确率仅 20%，该失败对外在评估完全不可见。
推荐理由：论文指出问答准确率会掩盖记忆系统的内部错误，并给出可复现的内在评估基准，为记忆评测提供新方法。
论文提出 Librarian Agents 框架，由 builder agent 把原始文档整理成层级化合成文件工作区，并将构建过程建模为 MDP、用强化学习直接优化下游答题准确率。方法在 BrowseComp-Plus 上比最强检索与预计算基线高 33 个百分点，并在 BRIGHT 上零样本泛化，平均准确率提升 31 点。
推荐理由：论文把工作区构建建模为 MDP 并用 RL 直接优化下游答题准确率，方法路径和基线对比对长上下文 Agent 研究有可迁移参考。
Arnav Chavan 等人在 arXiv:2610.22293 提出 Subspace Tuning（SST），把每次权重更新限制在权重矩阵的底部奇异子空间，避免沿主奇异方向改动，以缓解微调带来的灾难性遗忘。该方法与优化器无关，可与 SFT 和自蒸馏组合；保护约 99% 的权重子空间能显著提升保留能力且保持目标任务性能，KL 漂移比基线低 2 到 4 倍，且模型和数据规模越大遗忘越少。
一项 arXiv 研究提出用随机投影保护 RAG 系统中检索数据存储的隐私。对数据存储嵌入和查询嵌入施加同一投影，可在可证明保持语义相似度的同时显著缓解数据提取攻击。跨多种 RAG 架构和数据集，该方法在检索与生成性能上优于基于差分隐私（DP）的方法，且在强攻击模型下经验隐私相当。
一项受控研究考察向寻址条件记忆事后注入知识的可行性，结合 GPT-2 对照实验与 Qwen3.8-Flash-Next-FP8、DeepSeek-V4.1-Flash 的生产记忆实验。GPT-2 各实验组均能复现 50 条训练补全，但自然问题目标串命中平均仅 5.3%（row-only）、28.7%（无锚定投影更新）、22.0%（有锚定），严格答案得分均为零。结果显示写入可行但有边界，首 token 排名提升不代表完整答案成功。
研究者提出在 FlashAttention 前向传播中直接累积注意力统计量，无需显式构建注意力矩阵，用于训练紧凑幻觉检测器。在 H100 上，五个已发表检测器所需统计量对 Qwen3-8B 前向（2K token）仅增加 16% 延迟，35K 时降至 1.4%，每 response token 存储 22.5 KiB。基于 0.6B–8B 冻结 Qwen3 代理模型训练的探针表现强劲：4B 代理在三个 benchmark 中的两个上 F1 超过九个最强零样本 4-9B LLM 评判，注意力特征在 12 组 benchmark-代理配对的一半中显著提升 F1。
研究者提出 Function-isolated Memory-Efficient Optimization（CiMEO）持续学习框架，通过梯度归因分析定位 LLM 中认知相关的功能子网络，将训练样本路由至对应子网络，把参数更新和优化器状态限制在选定区域。在 140 万条顺序指令上，CiMEO 在覆盖编程、考试型任务和数学推理的五个生成式 benchmark 中取得对比方法的最高平均性能，同时缓解灾难性遗忘。子空间重叠与主角度分析表明局部化更新有助于保留预训练表征。
arXiv 论文 2610.21571 在九个模型和两个基准上评估工具图记忆（tool graph memory），发现其很少显著优于基线，且有限收益需付出两倍以上的 LLM 调用成本。其引导往往不正确，随机或无引导也能保留大部分收益，表明收益源于额外计算而非记忆本身；将同样经验存为文本洞察几乎不增加调用且效果更好，作者据此建议记忆宜作为软先验而非规定下一步工具。
AVALON 是一个面向"人类熟悉但机器人未见过"场景的零样本室内导航框架，无需预先建图或场地训练，仅需楼层平面图、地点线索和初始拓扑-里程计对齐即可部署，并通过人机记忆协同更新融合人类指定的任务约束与机器人实地验证证据。在 Unitree Go2 上的实验显示，AVALON 结合 X-NavDP 完成 12.81 m 的Intersection-to-Dining任务仅用时 46.4 s（5/5 成功），比 DimOS-Go2（78.5 s，4/5）节省 40.9% 机器人时间，而仅用策略的 X-NavDP 在 5 次运行中全部超时。
MemTensor 在 Hugging Face 发布记忆基础模型 MemT-1.0 系列，含基于 Qwen3.6-35B-A3B 的 Nano（36B 总参数、3B 激活）和基于 DeepSeek-V4-Flash 的 Flash（288B 总参数、17B 激活），Nano 权重以 Apache License 2.0 开放。模型将动态本地记忆与可训练超记忆内置到模型计算中，推理时无需访问原始上下文，128K 历史长度下持久状态大小恒定、存储约为全上下文 KV cache 的 1/66；在 11 项记忆基准上 Flash 和 Nano 在参数化记忆方法中分列第一、第二。
推荐理由：模型卡给出了记忆架构设计、两阶段训练流程和11项记忆基准的排名，适合想了解参数化记忆方案落地方式的读者。
论文提出 Continuum Attention（CA），一种因果 Transformer 注意力算子，将离散 key/value 查找替换为对连续分段线性记忆曲线的积分，通过闭式指数矩实现精确归一化注意力，梯度解析可导，支持并行 GPU 实现，保持二次序列复杂度。相比 softmax 与 focal attention，CA 分别将验证集平均负对数似然降低 0.0200 和 0.0480 nats per byte，在独立验证切片上比最强 softmax 基线低 0.0457 nats per byte。
arXiv 技术报告提出 MMLA-RSI，一种在 Memory-Mediated Learning Architecture 中的递归自我改进方案，包含两条实现路径：Reasoning-Time Training（RTT）修改策略状态 Φ，Reasoning-Time Memory Adaptation（RTMA）修改权威记忆 M，且各自的适配方法本身也是改进对象。在四候选程序选择任务中，保留 LARC 反馈更新使两个训练初始化的期望误差分别降低 24.65 和 36.65 个百分点；两条递归路径的联合实现已给出规范，但其有益递归链与发现效率仍有待评估。
Dongzhuo Li 等人在 arXiv 发布 TreeFlex 框架，让 Agent 用单个模型以 Reflection 和 Execution 两个角色自主决定在搜索树中深化、分支、回溯或验证，摆脱单一上下文里陈旧信息挤占容量的限制。导航、任务动作、检查点与提案审核通过树感知改造的 GRPO 联合训练。4B 模型经小规模 RL 后在深度研究基准达 48.8% 准确率，高于 flat ReAct 的 41.5% 和 FoldAgent 的 42.8%，Pass@8 高出约十分；9B 模型在 SWE-bench Verified 解决 54.9% 任务，高于 FoldAgent 的 43.3%。论文链接 https://arxiv.org/abs/2610.20334v1
推荐理由：论文给出 TreeFlex 与 ReAct、FoldAgent 在相同上下文限制和相同起点模型下的对照数据，可比较搜索树导航带来的具体提升。
arXiv 论文提出 FOLD，一种免训练的长上下文投机解码方法，保留精确局部位置并将远端条目作为共享位置的远端记忆处理，通过锐化注意力缓解注意力稀释。在六组 target-drafter 组合、最长 256K tokens 的基准上，FOLD 多数情况取得最高加速，最佳案例将相对自回归解码的加速从 2.08× 提升至 4.22×。
arXiv 论文提出 Memory Consolidation 框架，将上下文带来的增益内化为参数记忆，同时保持非目标能力，并统一了上下文编辑、技能学习与行为引导三类任务。配套提出 Cortex 方法，通过生成前瞻性查询预测上下文用途，并将上下文条件输出蒸馏为可合并的低秩或结构化前馈网络更新。在 4B 至 120B 的稠密与 MoE 骨干（含纯文本与多模态模型）上，Cortex 在多数评测设置中处于巩固-保留 Pareto 前沿；对 14B 模型做 50 次连续事实编辑后，Cortex-Structural 恢复 88.9% 的上下文增益，同时保留 99.8% 的原始非目标性能。
推荐理由：论文给出了跨 4B 到 120B 多种骨干的实测数据，包括 50 次连续编辑后 88.9% 增益恢复与 99.8% 非目标保留率。
arXiv 论文《Scaling Discovery Requires Forgetting》提出，LLM 智能体自动科研的三种扩展策略（单智能体长迭代、并行、并行通信）都会因历史累积而停滞，智能体被自身过往尝试锚定，编辑越来越少且越来越小。论文的方法是周期性丢弃搜索状态（包括各智能体会话与候选历史），从当前最优候选重启搜索。在启发式编程、kernel 优化和模型训练四类任务上，相比并行智能体最高提升 15%，相比单智能体最高提升 39%。论文链接：https://arxiv.org/abs/2610.20563v1
推荐理由：论文指出 LLM 智能体自动科研随历史累积而停滞，提出定期丢弃搜索状态重启，在四类任务上给出量化对比。
Yingfa Chen 在 arXiv 发布 Latent Compaction 方法，通过测试时训练学习文档级紧凑 KV cache，模型权重全程冻结，训练只用关于文档的通用提示词、不接触下游问题与答案。在 RULER 上 32 倍压缩达到 96.7% 准确率，对比 KVZip+ 的 40.0%；在 RULER、LongBench 和 Phonebook Lookup 上均超过预算匹配的压缩基线，并在 Qwen3 与 MiniCPM5 两个模型上取得检索提升。代码已开源。
推荐理由：论文给出在 RULER 上 32 倍压缩下 96.7% 对 40.0% 的对照数据，可据此评估 KV cache 压缩方法的实际保留能力。
arXiv 论文指出多模态大语言模型（MLLM）机器遗忘评测存在三大陷阱：缺少 heldout 评估区分概念级遗忘与实例级过拟合、依赖合成微调知识而非预训练真实知识、以及用相同训练设置不公平地比较不同遗忘方法。作者提出基于真实知识的 GEMMU 基准，重新评估代表性遗忘方法后发现显著泛化差距，并挑战了此前基准的结论。
arXiv 论文发现 Mamba 在 query-first 检索设置下仍大幅落后于 Transformer，说明瓶颈不止于固定大小循环状态容量。研究显示 Mamba 的 selection gates 足以影响输出，但与查询相关的表征信号随模型深度才逐渐出现，关键层的 gates 尚未对齐该信号，导致检索失败。
arXiv 论文 2610.19801 提出 Delta Tokenizer，一个只对会话请求增量部分做分词的 CPU 前端，并支持长请求的多核分段并行编码，输出与参考分词器完全一致。增量路径比 Hugging Face 参考分词器快约 40x，16 核下分段并行比串行快 8.2x、比 LoPT 快 1.6-2.1x；接入 SGLang 后 100K tokens 时中位 TTFT 降低 59%，Agent 会话 P99 TTFT 在负载下降低 9.5x、长请求占满前端时降低 23x。增量路径与快速编码器已在 toktier 仓库开源，分段并行路径、CPU 池调度器和 SGLang 适配器将在同一仓库发布。
推荐理由：论文给出了与 Hugging Face 参考实现和 LoPT 的具体加速对比，以及 SGLang 内的 TTFT 实测数据，可评估该方案的实际收益。
一项 arXiv 研究发现，多会话 LLM 智能体在切换模型并传递历史记录时会出现“行为迁移”：接收模型会采纳生成历史的模型的推理与行动模式，该效应在原始历史传递时最明显，用摘要可大幅减弱。研究者据此提出 DASH（Direction- and Authorship-aware Summarization of History），在保留强模型行为的同时减少弱到强迁移，重复切换实验显示其优于原始历史传递和朴素摘要基线。
arXiv 论文提出 StateCraft，一种将语言模型与视频扩散模型配对的架构，把可持久更新的抽象状态与视觉状态解耦，用于跟踪实体随世界演化的变化并条件化生成当前视图。在生成式界面基准上，其生成质量、记忆与可控性超越 SOTA 基线，并在长轨迹上保持高自一致性；抽象状态可被直接编辑，生成会遵循数据中从未观测到的状态修改。
一篇 arXiv 论文提出残差校正框架，在子空间中维护优化器状态并将正交残差梯度加入参数更新，以降低 LLM 训练的内存成本。该框架将 momentum SGD 扩展为 SMRC、将 Muon 扩展为 PMRC，二者均达到 O(T^{-1/4}) 收敛率，与全空间版本匹配；多阶段变体通过周期性重算基并引入边界校正保持同阶收敛率。实验验证了算法的有效性与效率。
论文提出 DeltaStreamer，一个受人类观察、记忆与调查方式启发的智能体式流式视频理解框架。该框架结合变化感知记忆、查询驱动的规划与定向回放取证，在查询到来前持续记录视觉变化，到来后检索记忆并回放历史帧以补回遗漏证据。在 OVO-Bench 和 StreamingBench 上分别取得 66.07% 和 59.53% 的总分，超过代表性方法。
研究者提出 Euler，一个以人为中心的数学研究系统，围绕共享的结构化研究过程表示构建，将数学陈述、假设、证明依赖、备选路径、失败尝试与验证证据组织成连通的研究图谱。该表示让研究者可追溯结果的推导过程，并为智能体提供跨会话的持久任务相关知识，支持规划、协作与验证，还可回访智能体早期推理并探索替代方向。论文通过三个数学研究案例展示系统能力，并给出实现与软件验证。
研究者推出 Audio Memory Operations（AMemOps）基准，用于评估长音频流中的最新属性检索、未变属性保持与缺席声源拒绝。在测试乐器的其他录音上训练后，参考 delta-rule 记忆相比匹配的 attention 更新优势提高 13.4 个百分点；120s 检索延迟实验分离了重复一致性与早期冲突值的代价。
OneRec 团队发布 Kwai Summary Attention V2 技术报告。针对 KSA-Full 混合架构中各层压缩块必须一致、Full attention 层二次方 prefill 开销等瓶颈，KSA V2 让 summary token 同时承担 KV memory 和 sparse indexer 两种角色，实现更灵活的 KV cache 压缩并降低计算成本。
研究提出 Grounding Awareness，即个人智能体在执行动作时区分用户已接受、未确认、已修改和限定范围的约定的能力，并构建受控 benchmark 测试。实验发现，记忆性能强不等于具备该能力，更完整的用户信息反而会增加执行未确认提案的情况，持久记忆会让智能体把提案当作用户指令。团队还推出免训练的 Grounding Layer 扩展，显式追踪 grounding 状态并检查关键动作，在不改动模型和记忆系统的情况下显著改善行为。
Varest 提出基于语义可替换性的图像 token 压缩方法：对象与文本定位器引导变分辨率合并以保留边界和文字细节，学习型 [REL] 寄存器在解码器早期处理后剪枝视觉 token。该方法在每个预算下的平均性能保留率均超过 15 个基线，在 3 个 backbone 和 13 个 benchmark 上仅用 5.56% 的原始图像 token 即保留 86.10-92.33% 的全 token 性能。
论文提出 CarryOn，一个面向对象的上下文运行时，把长程 Agent 的上下文围绕可复用任务对象组织，而非依赖交互历史。跨折（fold）维护 carrier 记录并按证据与环境检查修订受影响记录；在 OSWorld 2.0 与 BrowseComp-Plus 上分别提升 5.8% 和 7.0%，token 总量减少 51.9% 和 22.9%。
推荐理由：论文给出在 OSWorld 2.0 和 BrowseComp-Plus 上的涨分与 token 节省数据，可用于评估按任务对象组织上下文这条路线的收益。
该论文研究有限视界 MDP 中带 KL 正则化的离线 Q-learning。论文提出 KLQ，利用 KL 正则化在无需显式悲观主义的情况下达到 O(1/ε) 样本复杂度，但对 KL 正则化参数和视界存在指数依赖；进一步提出的 KLPQ 引入悲观主义，在保持同样速率的同时消除了指数依赖。作者称这是表格型有限视界 KL 正则化 MDP 中离线 Q-learning 的首个快速速率保证。
一项 arXiv 研究比较五种离线图嵌入变换方法，在合成职业社交网络 benchmark 上测试无需查询时图访问的检索策略。最强配置在涉及关联事实或候选比较的问题上，证据恢复率较普通向量检索最高提升 25.9%，且以少 40% 的返回节点达到基线恢复水平。结果显示检索性能更多取决于图修改嵌入的使用方式而非生成方式。
MemoryVLN 是一个面向视觉语言导航（VLN）的记忆驱动导航系统，通过遗忘曲线式时间采样压缩长轨迹历史，并用 2D 语义 token、3D 几何 token 和 6D 位姿构建自我感知记忆表示。系统采用分层记忆库与 Top-K 记忆检索实现跨上下文记忆复用，在 R2R-CE 和 RxR-CE 上成功率分别超过 SOTA 基线 2% 和 6.5%。
论文提出 TextualRL，一种免梯度的强化学习框架，通过修订引导 LLM 智能体行为的文本上下文来适应任务反馈，而不改变模型参数。其核心机制包括以同任务的一组 rollout 为单位的 Groupwise Policy Critique、跨组证据审查提案的 Cross-Group Policy Update，以及由留出验证奖励决定是否采纳的有界文本补丁。在六个基准上对五个目标智能体的评测中，GPT-5.5 和 Qwen3.8-27B 的测试准确率较基座模型平均分别提升 24.4 和 15.3 个百分点。
推荐理由：原文给出了框架机制与六个基准上的分组对比数据，读者可以据此评估这种免梯度上下文更新方法是否值得复现。
Hoang Pham 在 arXiv 发表论文（arXiv:2610.18427），提出 Randomized Block Curation（RBC），用随机实验衡量智能体自写 playbook 中各条经验对任务成功的实际影响。将相关经验分组后，在练习任务上随机决定每块是否纳入提示词，用有无某块的成功率差值估计其效果，只保留有效块。跨 2 个记忆系统、3 个模型和 3 个基准，RBC 平均成功率达 66.9，高于全量 playbook 的 55.5、无 playbook 的 54.1 和靠智能体自行判断筛选的 53.8。论文还指出同一流程写出的 playbook 可能有效也可能比无 playbook 低最多 69.6 分，因此需并行维护多个 playbook 并选用在新鲜练习集上表现最佳者。
推荐理由：论文给出量化实验设计，用随机对照衡量 playbook 条目对任务成功率的真实贡献，数字齐全可复现。