arXiv · cs.AI· Aakash Sarkar·· 1 天前AI 评分38
关系组合即平行输运：per-entity 坐标系对称性如何约束 Attention
Relational Composition as Parallel Transport: What Per-Entity Frames Force in Attention
来源与原文
arXiv · cs.AI
作者：Aakash Sarkar
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.34945v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文提出把每个实体的坐标系自由度视为对称性，证明正交输运下 attention 不变得分只依赖范数与输运内积 ⟨xᵢ, Tᵢⱼxⱼ⟩，标准 attention 是共享坐标系的平坦截面。在最小忠实表示宽度下，17/17 随机种子通过长度 1000 的测试，而两倍宽度仅 7/18；模型可仅凭权重给出正确性证书。在 CLUTRR 上输运组合在 4-10 跳比匹配 transformer 高 41 分，StepGame 的交换代数任务上等距变换则有益。
来源：arXiv · cs.AI · arxiv.org