跳到正文
arXiv · cs.AI· Jinho Choi·· 11 天前AI 评分35

超越 SAE:ConSDL 用稀疏编码实现一致的概念发现

Beyond SAEs: Consistent Concept Discovery with Sparse Coding

来源与原文

arXiv · cs.AI

作者:Jinho Choi

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.23801v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

一项 arXiv 研究提出 Consistent Sparse Dictionary Learning(ConSDL),用逐样本稀疏编码替代 SAE 的标准线性编码器,解决训练种子不同导致字典不一致的问题。在 16 个合成设置中 ConSDL 实现近乎完美的字典与系数恢复;在 4 个视觉与语言设置中,相比 6 个 SAE 基线平均,字典一致性提升 17.6%、系数一致性提升 35.9%,达到跨种子一致性的 SOTA。

来源:arXiv · cs.AI · arxiv.org