LooM论文提出循环不变记忆，缓存不随循环数增长
热点事件持续更新
LooM论文提出循环不变记忆，缓存不随循环数增长
1 篇报道1 个报道来源15 小时前更新
先了解这件事
AI 综述
Muxi Diao 等在 arXiv 发布论文（arXiv:2611.06835），提出 LooM（Loop-invariant Memory）方法：在因果编码器-解码器模型中仅循环 decoder 首层之后的各层，token 的 KV 条目只在首次访问时写入全局记忆，缓存不随循环数增长。论文称该方法针对 Looped Transformer 内存随循环数增长、计算只能整块调节、训练后难以改变循环数三大局限。 单个 LooM 模型可在每 token 3 到 21 层的所有预算间切换而无需 router。论文称在足够循环下，LooM 在语言建模、zero-shot 准确率和长上下文困惑度上均优于同数据训练的单次前向基线，且缓存大小相同。
AI 根据报道生成 · 54 分钟前更新
最新进展11月5日 01:52
LooM：面向因果编码器-解码器语言模型的循环不变记忆报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- arXiv · cs.CLLooM：面向因果编码器-解码器语言模型的循环不变记忆
LooM（Loop-invariant Memory）针对 Looped Transformer 内存随循环数增长、计算只能整块调节、训练后难以改变循环数三大局限，在因果编码器-解码器中仅循环 decoder 首层之后的各层，token 的 KV 条目只在首次访问时写入，缓存不随循环数增长。单个模型可在每 token 3 到 21 层执行的所有预算间切换而无需 router，在足够循环下语言建模、zero-shot 准确率和长上下文困惑度均优于同数据训练的单次前向基线，且缓存大小相同。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。