arXiv · cs.CL· Yupeng Su·· 21 天前精选AI 评分54
ReFold 论文提出免训练的可逆跨轮上下文折叠方法,为长程智能体降低 token 与 KV-cache 开销
ReFold: Training-Free Reversible Inter-Turn Context Folding for Long-Horizon Agents
来源与原文
arXiv · cs.CL
作者:Yupeng Su
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.07863v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
Yupeng Su 等人在 arXiv 发布论文 ReFold(arXiv:2610.07863),提出一种免训练的渲染层,在不改动底层交互历史的前提下压缩长程 LLM 智能体每步重发的上下文。方法通过替换已展示内容为占位符、把智能体报告已完成的轮次折叠成一行摘要来消除跨轮冗余,删除均可逆,并采用分块渲染每隔几步才重写缓存前缀。在五个长程基准和两个前沿 LLM 上,ReFold 将 token 消耗最多降低 2.5 倍,每会话 KV-cache 内存减半且不损害任务成功率;在受限上下文预算下避免最多 92% 的强制压缩,并发服务下推理加速最多 1.7 倍、推理成本最多降低 3.4 倍。
推荐理由
论文提出无需训练的上下文压缩层 ReFold,长程智能体的成本与缓存数据都有可复用的量化参考。
来源:arXiv · cs.CL · arxiv.org