跳到正文
arXiv · cs.CL· Yupeng Su·· 21 天前精选AI 评分54

ReFold 论文提出免训练的可逆跨轮上下文折叠方法,为长程智能体降低 token 与 KV-cache 开销

ReFold: Training-Free Reversible Inter-Turn Context Folding for Long-Horizon Agents

来源与原文

arXiv · cs.CL

作者:Yupeng Su

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.07863v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

Yupeng Su 等人在 arXiv 发布论文 ReFold(arXiv:2610.07863),提出一种免训练的渲染层,在不改动底层交互历史的前提下压缩长程 LLM 智能体每步重发的上下文。方法通过替换已展示内容为占位符、把智能体报告已完成的轮次折叠成一行摘要来消除跨轮冗余,删除均可逆,并采用分块渲染每隔几步才重写缓存前缀。在五个长程基准和两个前沿 LLM 上,ReFold 将 token 消耗最多降低 2.5 倍,每会话 KV-cache 内存减半且不损害任务成功率;在受限上下文预算下避免最多 92% 的强制压缩,并发服务下推理加速最多 1.7 倍、推理成本最多降低 3.4 倍。

推荐理由

论文提出无需训练的上下文压缩层 ReFold,长程智能体的成本与缓存数据都有可复用的量化参考。

来源:arXiv · cs.CL · arxiv.org