arXiv · cs.CL· Toygar Tanyel·· 2 天前AI 评分24
目标函数如何夸大学到的子空间干预效果：arXiv 可解释性新研究
Whose Effect Is It? How Objectives Inflate Learned Subspace Interventions
来源与原文
arXiv · cs.CL
作者：Toygar Tanyel
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2611.05033v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 一项 cs.CL 研究分析了可解释性中通过 activation patching 学习复制语言模型部分状态的方法，证明一阶正交部分效果相加后，学到的部分效果超过整体复制时，往往源于目标函数而非更干净地分离了概念。以 distributed alignment search 加 cross-entropy 为例，把目标改为针对网络本身产生的内容即可消除大部分超出部分，因此更大的学习效果本身不构成更强证据。
来源：arXiv · cs.CL · arxiv.org
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。