Reddit · r/LocalLLaMA· /u/pmttyji·· 6 天前精选AI 评分58
REMEMORY 论文提出残差记忆 token 用于上下文压缩
[Paper] REMORY: Learning Residual Memory for Context Compaction
来源与原文
Reddit · r/LocalLLaMA
作者：/u/pmttyji
发布时间：（北京时间）
阅读原始来源 · reddit.com ↗完整链接与内容说明
https://www.reddit.com/r/LocalLLaMA/comments/1xasp90/paper_remory_learning_residual_memory_for_context/
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
REMEMORY 论文提出一种神经记忆网络，在文本摘要之外生成有界的软记忆 token，帮助冻结的 LLM 近似使用完整历史时的续写效果，相当于沿序列维度的残差连接。在 SummHay 上仅用 5.2% 的输入位置即接近全上下文联合分数，Qwen3.8-27B 与 GLM-5.3-Flash 在长程 Agent 基准上一致提升，并在 BrowseComp 和 Terminal-Bench 2.1 上显著减少重复工具输出与工具错误。arXiv: https://arxiv.org/abs/2610.11287，GitHub: https://github.com/fudan-generative-vision/Remory
推荐理由
论文给出用软记忆 token 补充文本摘要的上下文压缩方法，并附 SummHay 与长程 Agent 基准数据，可复现。
来源：Reddit · r/LocalLLaMA · reddit.com