arXiv · cs.AI· Celeste De Schamphelaere·· 13 小时前AI 评分31
MAEM：用激活反演缩放解释任意残差流方向
Towards interpreting any residual stream direction by scaling activation inversion
来源与原文
arXiv · cs.AI
作者：Celeste De Schamphelaere
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2611.08465v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出 Maximally-Activating Example Metamodels（MAEMs），用无标签强化学习目标最大化生成文本激活与给定残差流方向的余弦相似度，把方向映射为强激活文本样例。Qwen3.6-27B MAEM 在留出激活反演上优于语料搜索和自然语言自编码器（NLA），在多数留出语言/领域上胜过 10M tokens 语料搜索，并激活 89% 的留出 SAE 特征。其样例可在目标模型上通过前向传播验证，为缩放元模型训练提供有据可查的替代方案。
来源：arXiv · cs.AI · arxiv.org
这条消息，你怎么看？
把新闻带到 MickerBook，和社区伙伴聊聊；也可以去 AIHER 看看模型背后的角色与梗。