跳到正文
我的
热点事件观察中

NVIDIA 研究团队发文质疑长上下文必要性，主张频繁压缩上下文

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

Peter Belcak 等 NVIDIA 研究人员在 arXiv 发布 31 页技术报告《You don't need long context》，提出通过频繁压缩上下文保持短上下文，可在广泛的长程与长输入任务上几乎不损失任务精度，据此质疑长上下文语言模型的必要性。论文并据此提出语义状态空间模型（SSSMs）概念。 作为论证依据，报告指出在前沿开源权重模型上，后置 token 生成成本可达前置 token 的 7 倍；并证明 LLM 在长程软件工程任务中即使每个上下文最多执行一个动作也不会崩溃。

AI 根据报道生成 · 12 小时前更新

最新进展11月4日 02:17
arXiv 论文：频繁压缩上下文可替代长上下文，并提出语义状态空间模型概念

报道时间线

沿着报道，了解事件的不同侧面。

11月4日
  1. arXiv · cs.AI精选
    arXiv 论文：频繁压缩上下文可替代长上下文，并提出语义状态空间模型概念

    Peter Belcak 等人在 arXiv 发布技术报告，指出在前沿开源权重模型上后置 token 生成成本可达前置 token 的 7x，而通过频繁压缩保持短上下文在广泛的长程与长输入任务上几乎不损失任务精度。论文还证明 LLM 在长程软件工程任务中即使每个上下文最多执行一个动作也不崩溃，并据此提出语义状态空间模型（SSSMs）概念，质疑长上下文语言模型的必要性。全文 31 页，链接 https://arxiv.org/abs/2611.05306v1

本事件热度走势

可比范围当前
4
可比范围峰值
511月5日 03:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。