研究称Gemma4-12B-it在文本图像与加减法中共享同一数值几何

Oriol Juan Sabater 等作者在 arXiv 论文（arXiv:2610.37422）中称，通过因果干预发现 Gemma4-12B-it 在文本与图像、加法与减法四种条件下使用同一套潜在数值几何，只是坐标不同：直接复用子空间仅恢复 53.2% 的因果效应，经一次旋转缩放后可达 91.4%。 论文还称，该子空间中 13 个方向是输出层不可见的但仍携带数值信息，交换这些方向可在 77.6% 的案例中改变下一位数字而不影响当前位，据此作者认为模型先形成抽象数值概念再逐位展开。上述均为论文中基于因果干预实验的说法。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。