arXiv · cs.AI· Randall Balestriero·· 1 天前精选AI 评分54
arXiv 论文用 JEPA 证明并改进柏拉图表征假说
Proving and Improving the Platonic Representation Hypothesis with JEPAs
来源与原文
arXiv · cs.AI
作者：Randall Balestriero
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.39302v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
Randall Balestriero 在 arXiv 发布论文，将柏拉图表征假说转化为定理：在任意数量模态上分别训练的 JEPA，只要正样本对是同一场景的观测，就会学到至多相差一个旋转的相同表征。论文指出 next-token prediction 是坏视角的 JEPA，并实验显示好视角只需 42 分之一训练样本即可达到同等对齐，109M 参数文本 JEPA 对齐 DINOv2 与 CLIP 图像编码器的效果好于最高 72B 参数的语言模型，一次旋转即可把分离训练的编码器变成图像描述器（COCO 上 CIDEr .838）。
推荐理由
论文把柏拉图表征假说变成定理，并给出比规模更省样本的对齐路线，适合关注多模态表征的读者。
来源：arXiv · cs.AI · arxiv.org