热点事件观察中

arXiv研究：学习子空间干预效果夸大源于目标函数

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

Toygar Tanyel 在 arXiv（2611.05033，cs.CL）发表论文，针对可解释性研究中通过 activation patching 学习复制语言模型部分状态的方法，证明到一阶近似，各正交部分的效果相加等于整体效果；当学到的部分效果超过整体复制时，往往源于目标函数本身，而非更干净地分离了概念。论文以 distributed alignment search 加 cross-entropy 为例：只把目标改为针对网络本身产生的内容，就能消除大部分超出部分。作者据此指出，奖励更大效果的目标函数会选出这样的部分，因此更大的学习效果本身不构成更强证据。

AI 根据报道生成 · 12 小时前更新

最新进展11月3日 23:06

目标函数如何夸大学到的子空间干预效果：arXiv 可解释性新研究

报道时间线

沿着报道，了解事件的不同侧面。

11月3日

23:06
arXiv · cs.CL
目标函数如何夸大学到的子空间干预效果：arXiv 可解释性新研究
arXiv 一项 cs.CL 研究分析了可解释性中通过 activation patching 学习复制语言模型部分状态的方法，证明一阶正交部分效果相加后，学到的部分效果超过整体复制时，往往源于目标函数而非更干净地分离了概念。以 distributed alignment search 加 cross-entropy 为例，把目标改为针对网络本身产生的内容即可消除大部分超出部分，因此更大的学习效果本身不构成更强证据。

本事件热度走势

可比范围当前: 3
可比范围峰值: 511月5日 03:00
近 24 小时变化: –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。