arXiv · cs.AI· Yining Li·· 21 天前AI 评分42
DeltaTTT：面向非线性循环记忆的逐层优化方法
DeltaTTT: Layerwise Optimization for Nonlinear Recurrent Memory
来源与原文
arXiv · cs.AI
作者：Yining Li
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.08553v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文提出 DeltaTTT，针对非线性 test-time training 记忆网络中串行更新优势不稳定、单遍优化困难的问题，将两层记忆网络的联合内环优化改为逐层学习，每层分配局部预测目标并通过状态依赖的 delta rule 更新，保留非线性 readout 同时支持 chunkwise 并行计算。在 DeltaNet 和 LaCT 骨干上的实验显示，语言建模与检索能力较各自循环基线有所提升。
来源：arXiv · cs.AI · arxiv.org