跳到正文
我的
arXiv · cs.CL· Teerawat Tongloy·· 1 天前AI 评分28

Born Transformer:一种在光学与量子比特上可精确追溯词证据的语言模型

Reading Why: Born-Measured Attention with Exact Word Evidence on Light and Qubits

来源与原文

arXiv · cs.CL

作者:Teerawat Tongloy

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2611.05355v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

研究者构建了一种以 Born 测量为核心的 Transformer,注意力按 |⟨q|k⟩|⁴ 归一化,使词贡献的 integrated-gradient 证据可精确计算,求和误差不超过 10⁻¹¹。该模型在 e-SNLI 上以约 98k 非嵌入参数达到 76.98 ± 0.17% 测试准确率,与同规模 softmax Transformer(76.62 ± 0.36%)相当,且按证据删词改变答案的比例(45%)高于 softmax 模型(32%)。同一权重可精确编译为光学电路和量子电路(852 个 CNOT、23 个量子比特),并在 IBM 的 ibm_kingston 上验证了模型答案及删词行为,但证据测量本身尚未在硬件上实现。

来源:arXiv · cs.CL · arxiv.org

这条消息,你怎么看?

把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。