跳到正文
arXiv · cs.AI· Oriol Juan Sabater·· 14 小时前AI 评分46

超越读出层:Gemma4-12B-it 跨模态与运算共享的潜在数值框架

Beyond the Readout: A Latent Numerical Frame Shared Across Modality and Operation

来源与原文

arXiv · cs.AI

作者:Oriol Juan Sabater

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.37422v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一项 arXiv 研究通过因果干预发现,Gemma4-12B-it 在文本与图像、加法与减法四种条件下沿不同坐标表达同一套数值几何:直接复用子空间仅恢复 53.2% 的因果效应,经一次旋转缩放后可达 91.4%。子空间中 13 个输出层不可见的方向仍携带数值信息,交换这些方向可在 77.6% 的案例中改变下一位数字而不影响当前位,说明模型先形成抽象数值概念再逐位展开。

来源:arXiv · cs.AI · arxiv.org