T-Tech 在 EMNLP 2026 提出省 15% 训练算力的 LIMe 方法
热点事件持续更新
T-Tech 在 EMNLP 2026 提出省 15% 训练算力的 LIMe 方法
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
T-Tech 研究人员在 EMNLP 2026 上提出 LIMe（Layer-Integrated Memory）方法，据其称可让语言模型训练减少约 15% 算力且不损失质量。该报道来自 Reddit r/LocalLLaMA 的介绍。
AI 根据报道生成 · 1 小时前更新
最新进展10月29日 15:11
研究人员提出 LIMe 方法：训练 LLM 可减少 15% 算力且不损失质量报道时间线
沿着报道，了解事件的不同侧面。
10月29日
- Reddit · r/LocalLLaMA研究人员提出 LIMe 方法：训练 LLM 可减少 15% 算力且不损失质量
T-Tech 研究人员在 EMNLP 2026 上提出 LIMe（Layer-Integrated Memory），一种对注意力机制的轻量扩展，利用各层已有的 KV buffer 和可学习路由权重，让注意力头复用更早层的表征，缓解表征坍缩。在约 10 亿参数的模型实验中，LIMe 以少 15% 的算力达到与基线 LLaMA 相同的训练损失，并在语言建模和多步推理 benchmark 上超过竞争方法。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。