arXiv · cs.CL· Hochan Son·· 21 天前AI 评分51
arXiv 论文实测多智能体 LLM 推理中持久记忆层的开销与收益
Persistent Memory in Multi-Agent LLM Inference: What It Costs, What It Buys, and When You Can Tell
来源与原文
arXiv · cs.CL
作者：Hochan Son
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.07782v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文 2610.07782 实测三层 Agent 架构中的 KV cache 分解与持久记忆层：分解使单次查询峰值 KV 工作集降至 14.3 MiB，低于单遍（35.5 MiB）和检索增强（35.3 MiB）基线。持久记忆层在八组受控数据对、每组 n=100 的实验中增加 +0.368 MiB 峰值缓存，却无可检测的准确率变化（+0.015，95% CI [-0.011, +0.046]）；作者认为空结果是结构性的，因单问题基准让各条目自带证据且独立评分，并给出 Agent 记忆消融须满足的条件与检测方法。论文被 NeurIPS 2026 Machine Learning for Systems Workshop 接收为 poster。
来源：arXiv · cs.CL · arxiv.org