arXiv · cs.AI· Jinho Choi·· 11 天前AI 评分35
超越 SAE:ConSDL 用稀疏编码实现一致的概念发现
Beyond SAEs: Consistent Concept Discovery with Sparse Coding
来源与原文
arXiv · cs.AI
作者:Jinho Choi
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.23801v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
一项 arXiv 研究提出 Consistent Sparse Dictionary Learning(ConSDL),用逐样本稀疏编码替代 SAE 的标准线性编码器,解决训练种子不同导致字典不一致的问题。在 16 个合成设置中 ConSDL 实现近乎完美的字典与系数恢复;在 4 个视觉与语言设置中,相比 6 个 SAE 基线平均,字典一致性提升 17.6%、系数一致性提升 35.9%,达到跨种子一致性的 SOTA。
来源:arXiv · cs.AI · arxiv.org