按兴趣浏览，循来源深入。
论文提出 AgentMemRec，把智能体记忆选择形式化为预算化 slate 推荐，从推荐系统借鉴候选生成、排序与 slate 构造，全程零 LLM 调用。在 LongMemEval 多会话问题上比 A-Mem、HippoRAG 2、DynamicRAG、T-Mem 高 10 到 31 个百分点准确率，以 3.2 倍更低的服务成本比肩每查询 64 次 LLM 调用的重排器，并在 LoCoMo 上写入时零 LLM 调用超过 Mem0 和 Zep。
推荐理由：论文把智能体记忆选择形式化为预算化 slate 推荐，给出可复用的分阶段设计框架，并在 LongMemEval 等基准上量化了各组件贡献。
清华、百度等机构在 NeurIPS 2026 发表 When Less Is More，发现 compressor-decoder 有损压缩中的 Size-Fidelity 悖论，覆盖 27 组配置（9 个模型规模 × 3 种压缩率）：更大压缩器重构误差更低但忠实度下降，中型压缩器常优于大模型。论文归因于知识覆写（如白色草莓被改写为红色草莓）与语义漂移（如 Alice hit Bob 被改写为 Bob hit Alice），64× 压缩下 LLaMA 从 3B 扩到 90B 时知识覆写 QA 从 0.62 降至 0.53、语义漂移 QA 从 0.41 降至 0.28。
推荐理由：论文用 27 组压缩器配置给出压缩保真度非随规模单调的证据，并公开了诊断数据集与 QA 生成提示词，方法可复用于其他压缩评测。
arXiv 论文 2610.33766 提出 StateWise，教单个 LLM 维护可修订的约束状态（含已撤销约束的墓碑标记），通过摘要、条件响应和精确回程检查自训练。在两个 backbone 上，StateWise 相比有监督自训练把 relapse 降低 8-22 个百分点，对话成功率较 backbone 提升 8-19 个百分点，且无需推理时脚手架就胜过 oracle 编译账本基线。论文还发现 Llama-3.1-8B 的有监督变体会让 relapse 约翻倍，因而加入偏好阶段，并评估了该方法对通用指令遵循基准的代价与权重插值缓解手段。
推荐理由：论文指出微调后的 7-8B 模型会精确追踪约束状态却不遵守，这一发现和用偏好阶段修复的思路有参考价值。
PaddlePaddle 团队在 arXiv 发布 Virtual Head Attention（VHA）论文，通过 Q Premix 和 Linear Postmix 两个线性操作同时改善 KV cache 大小、训练与 prefill FLOPs 和模型质量，推理时可折叠进投影层化为标准 GQA-2 架构。在 4K 上下文 50B token 预训练的四个规模上均超过 GQA 基线（+0.05% 至 +0.81%），KV cache 相比 GQA-8 减少 4 倍；在 30B-A3B MoE 模型上比 MLA 和 GQA-4 分别高 +0.70% 和 +2.60%，长上下文 RULER 平均分 84.4 对 GQA 的 73.0。
推荐理由：论文给出 VHA 在多个规模和 MoE 模型上对 GQA、MLA 的对比数据，KV cache 压缩和 FLOPs 降幅都有具体数字可查。
arXiv 论文 2610.32370 提出一个物理可控的多模态智能体，用于非平稳响应下科学仪器的逐shot调参，包含符号物理量提取、两层记忆加 MLLM 生成动作、独立动作可行性检查三个可审计组件。在 EXL-50U 四个平台的 455 shots 按时间顺序回放中，物理符号比波形图像的 macro-F1 高 0.21-0.32，检索上下文使与历史动作方向的一致率提升 22.4-42.7 个百分点；在五个离子源的监督运行中，409 次 executed shots 的束提取率达 86.80%。
推荐理由：论文用可审计的多模态智能体在真实聚变装置上做仪器调参，给出了消融数据和监督运行成功率，方法可迁移到类似非平稳控制场景。
Tianyi Xu 在 arXiv 发布 MemCryst 框架，通过记忆与技能的双向学习实现终身 LLM 智能体的上下文适应，冻结语言模型，任务结果只调整记忆记录的检索影响而不改写内容。在覆盖具身控制、长文档阅读、对话、数学和代码的十个场景中，MemCryst 在七个已报告对比中领先；ALFWorld 上联合服务成功率为 63.17%，高于仅用记忆的 59.83% 和仅用技能的 50.50%。
推荐理由：论文提出记忆与技能双向学习框架，并用跨十个场景的对照数据说明联合服务的增益，方法可迁移到终身智能体设计。
一项 arXiv 研究（arXiv:2610.31272）收集了 87 名参与者约 1,000 条成对偏好判断，发现基于记忆的 LLM 回复并不总是比无记忆回复更受用户偏好，部分场景用户反而强烈偏好后者，自动评估器也更偏向使用记忆的回复。论文提出的记忆感知奖励模型达到 72.8% 的偏好预测准确率，超过现有基线，主张将记忆使用的评估与优化目标对齐到用户偏好。
推荐理由：论文用用户自己的对话和记忆做偏好判断，指出记忆加入并不总被用户偏好，并给出可复用的记忆感知奖励模型方法。
研究者在长程对话中定义并量化“状态完整性崩塌”，即模型记住了约束却不再对后续轮次执行，并发布 StateTrack-Bench 基准。七个模型快照的严格联合保持率在 62.4% 到 100.0% 之间，forked recall 审计显示 88.6% 的失败属行为漂移而非遗忘；Structured State Anchoring 方法在不可变约束上最多提升 24.4 个百分点。论文已被 EMNLP 2026 主会接收。
推荐理由：论文把长对话中记住了约束却不再执行的现象量化命名，88.6% 失败属行为漂移的发现对评测设计有参考价值。
GIND123 发布 Dynamic-Story-Graph 仓库，要求系统只能依据引语之前的前缀文本做归属，并在每条数据上用代码强制该约束。审计发现 PDNC 上已发表的非因果方法的决定性线索对 29.3% 的显式引语位于引语之后，并用 Qwen2.5-7B-Instruct 给出首个前缀因果归属结果，因果代价为 +0.165。研究还测得 append-only 状态存储在真实小说上会让 9-42% 的单值槽位自相矛盾，全流程 231 项测试通过，无 LLM judge、无付费 API，全部表格可由已提交工件复现。
推荐理由：以代码强制前缀因果约束重测 PDNC 引语归属基准，发现已发表方法依赖事后信息，并给出因果代价与状态污染的量化结果。
Hao Wu 在 arXiv 发布 Delta N-gram 论文，提出向模型原生哈希 N-gram 表写入证据的 forward-only 路径，预训练表 T^0 不被修改，写入只走前向传播，清零补丁 Delta 即可还原原模型。0.6B 原型在第二次写入后保留 16/16 事实，而在线梯度写入只保留 2-4/16；在 35,000 次写入的七任务链上后期精度变化仅 -0.26/-0.52pp，论文链接为 https://arxiv.org/abs/2610.31125v1。
推荐理由：论文给出免反向传播写入 N-gram 记忆表的具体方法和多组稳定性数据，可与梯度写入方案直接比较。
arXiv 论文 MemoryTax 提出：当模型足够强、能自行搜索原始历史时，Mem0、Zep 这类预先设计的记忆系统是否仍有价值。作者在一段 LoCoMo 对话（419 轮、152 个问题）上测试四种记忆方法（full context、BM25、Mem0、Zep）和三个编码 Agent（Pi、Codex、Claude Code），每个单元搭配 GPT-4o-mini、GPT-6 Luna 和 Claude Opus 5.5 各跑一次。结果显示 Mem0 仅在 GPT-4o-mini 上胜过 full context，且其构建成本就超过一次 full context 推理；记忆系统还有由写入模型设定的上限。
推荐理由：论文用同一对话横向比较记忆系统与让模型自带工具搜索原始历史，给出成本与准确率的具体数据，可作设计取舍参考。
研究者提出记忆整合框架 PreCoMem，将用户记忆表示为置信加权信念，用有效惊异度结合语义偏离与矛盾证据驱动三档确定性更新。该方法在 LoCoMo、LongMemEval-S 和 PersonaMem-v2 上取得一致最优准确率，新基准 DiMoBench 显示其能适应非平稳信念漂移而不对噪声过度反应，论文已被 NeurIPS 2026 接收，代码已开源。
推荐理由：论文把记忆更新拆成置信加权信念加双阈值门控，区分噪声与真实漂移的思路可迁移到自己的长期对话系统。
论文提出 cache engineering 方案，让 LLM 智能体通过 drop 和 repos 操作直接控制活跃 KV cache，无需修改轨迹或重新 prefill。配套的 AKV 推理引擎提供无状态接口并内部管理缓存复用；工具响应滚动 drop 策略相比阈值触发的摘要方法平均提升基准分 1.7 分、降低成本 27.7%，AKV 实现最高 1.2x 输出吞吐和 1.5x P95 延迟加速。
推荐理由：论文提出让智能体直接操作 KV cache 的缓存工程方案，附带与常规摘要策略的成本和延迟对比数据。
arXiv 论文提出扩散语言模型（DLM）中的事实访问状态概念，发现其与自回归模型不同，事实查找在第一层注意力与早期前馈层就完成。基于该状态，论文的 Multi-View Edit 知识编辑方法在改写和反向问答上显著优于 AR 编辑器，且各实体位置的状态可免训练地作为关系特定检索向量，在双实体查询中能同时返回两条证据。论文链接 https://arxiv.org/abs/2610.27580v1。
推荐理由：论文指出扩散语言模型的事实访问状态在首层注意力就组装完成，并据此给出知识编辑与免训练检索两种用法，可作理解 DLM 与 AR 机制差异的对照。
REMEMORY 论文提出一种神经记忆网络，在文本摘要之外生成有界的软记忆 token，帮助冻结的 LLM 近似使用完整历史时的续写效果，相当于沿序列维度的残差连接。在 SummHay 上仅用 5.2% 的输入位置即接近全上下文联合分数，Qwen3.8-27B 与 GLM-5.3-Flash 在长程 Agent 基准上一致提升，并在 BrowseComp 和 Terminal-Bench 2.1 上显著减少重复工具输出与工具错误。arXiv: https://arxiv.org/abs/2610.11287，GitHub: https://github.com/fudan-generative-vision/Remory
推荐理由：论文给出用软记忆 token 补充文本摘要的上下文压缩方法，并附 SummHay 与长程 Agent 基准数据，可复现。
论文研究 Agent harness 跨轮次处理上下文（丢弃、摘要、回放模型推理）何时改变 Agent 成败，而非只看成本。预注册合成实验显示，所需事实可重新查回时截断上下文几乎无损失，事实不可再观察时成功率降至随机水平，两种惩罚相差 92.5 个百分点（90% CI [89.5, 95.5]），第二家供应商一个模型的复现结果一致。在 ARC-AGI-3 上，Standard harness 与 Provider Adapter harness 存在 63 分差距，改摘要而非丢弃旧轮次并保留记笔记提示可恢复 86%，不保留提示恢复 43%，叠加供应商原生推理回放再恢复 57%；这些为单次运行的点估计。
推荐理由：论文用预注册实验拆解 harness 对 Agent 成败的影响，给出可量化的组件归因，对理解上下文管理设计有直接参考。
MemT-1.0 是一套把记忆内化为模型计算一部分的记忆基础模型架构，基于 Metis，采用 Gated DeltaNet-2 与逐 token 稳定记忆更新机制，并用 Mixture-of-Storage 扩展原生记忆容量，训练管线含继续预训练与后训练，共 34B token 数据。发布了 MemT-1.0-Nano 和 MemT-1.0-Flash，评测显示平均优于参数化记忆基线、与检索增强方法相当且大体保留通用能力；在 128K 历史长度下 Nano 端到端推理约 1.86× 加速、持久存储较全上下文 KV cache 减少 66 倍，并通过内化检索到的程序性经验提升 agentic 任务成功率。
推荐理由：原文给出了记忆模型架构与训练管线，并附 128K 上下文下 1.86× 推理加速和 66× 存储缩减的对比数据，便于评估其与基线的实际差距。
论文提出 OpenVLHarness，一个围绕能力层与持久多模态记忆组织的多模态推理框架，统一调用异构工具并把输出转为模型可读证据。在 22 个基准、8 个开源与专有骨干上评测，平均比无工具基线提升 9.7-12.6 分，如 Qwen3-VL-8B +11.2、Kimi K3 +9.7、GPT-6 Astra +9.9；用 GPT-6 Luna 中等推理强度时以最多 37% 的模型 token 成本超过最大推理强度下的基线模型、Codex 和 Visual Sketchpad 7.7-8.5 分。
推荐理由：论文在 22 个基准上用八个骨干实测工具调用加多模态记忆的增益与 token 成本，方法和数字都可对照复核。
论文提出 DialogMem，一个两阶段基准，智能体从时间对齐的 RGB-D 观测与对话流中构建记忆，再用于实例级物体导航和问答。基准覆盖 27 个真实 3D 场景的 142 个 episode，含 14,193 个 QA 对和 11,890 条导航指令；在统一框架下评测九种记忆表示。实验显示，评估时把对话附加到视觉记忆可显著提升 QA 但几乎不改善导航，说明相关对话存在于记忆中却未绑定到具体物体。诊断实验进一步识别出三个瓶颈：记忆形成时的物体级绑定与组织、正确条目的检索，以及空间位置定位。
推荐理由：论文在统一框架下对比九种记忆表示，指出对话融入视觉记忆对导航帮助甚微，并定位了物体级绑定、检索与定位三个瓶颈。
一项 arXiv 研究（arXiv:2610.24671）在 LongMemEval-S 和 BEAM-100K 上对比六个 SOTA 显式记忆系统与原始历史 RAG，发现后者并无一致劣势，显式记忆只在特定问题类型和紧凑运行时上下文预算下有局部收益。Oracle 检索显示部分系统在记忆构建时丢失答案支撑信息，另一些则保存了却检索不出，尽管构建成本可达每段对话数小时；作者指出改进对已有信息的检索可能比构建更精细的显式记忆更重要。
推荐理由：原文用受控检索设置对比六种显式记忆系统与原始历史 RAG，指出检索环节被低估，方法结论可迁移到记忆系统设计。