arXiv · cs.AI· Oriol Juan Sabater·· 14 小时前AI 评分46
超越读出层:Gemma4-12B-it 跨模态与运算共享的潜在数值框架
Beyond the Readout: A Latent Numerical Frame Shared Across Modality and Operation
来源与原文
arXiv · cs.AI
作者:Oriol Juan Sabater
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.37422v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 研究通过因果干预发现,Gemma4-12B-it 在文本与图像、加法与减法四种条件下沿不同坐标表达同一套数值几何:直接复用子空间仅恢复 53.2% 的因果效应,经一次旋转缩放后可达 91.4%。子空间中 13 个输出层不可见的方向仍携带数值信息,交换这些方向可在 77.6% 的案例中改变下一位数字而不影响当前位,说明模型先形成抽象数值概念再逐位展开。
来源:arXiv · cs.AI · arxiv.org