提出以Born测量为核心的Transformer架构Born Transformer
先了解这件事
研究者Teerawat Tongloy在arXiv发布论文，提出以Born测量为核心的Transformer架构：注意力按 |⟨q|k⟩|⁴ 归一化，使模型输出对应词的证据可用integrated-gradient精确计算，求和误差不超过10⁻¹¹。 该模型（Born Transformer）在e-SNLI上以约98k非嵌入参数达到76.98 ± 0.17%测试准确率，与同规模softmax Transformer（76.62 ± 0.36%）相当；按计算出的证据删词导致答案改变的比例为45%，高于softmax模型的32%。 论文称同一权重可精确编译为光学电路和量子电路（852个CNOT、23个量子比特），并在IBM的ibm_kingston上验证了模型答案及删词行为，但证据测量本身尚未在硬件上实现。
AI 根据报道生成 · 11 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- arXiv · cs.CLBorn Transformer：一种在光学与量子比特上可精确追溯词证据的语言模型
研究者构建了一种以 Born 测量为核心的 Transformer，注意力按 |⟨q|k⟩|⁴ 归一化，使词贡献的 integrated-gradient 证据可精确计算，求和误差不超过 10⁻¹¹。该模型在 e-SNLI 上以约 98k 非嵌入参数达到 76.98 ± 0.17% 测试准确率，与同规模 softmax Transformer（76.62 ± 0.36%）相当，且按证据删词改变答案的比例（45%）高于 softmax 模型（32%）。同一权重可精确编译为光学电路和量子电路（852 个 CNOT、23 个量子比特），并在 IBM 的 ibm_kingston 上验证了模型答案及删词行为，但证据测量本身尚未在硬件上实现。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 511月5日 03:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。