跳到正文
arXiv · cs.CL· Zhongxin Chen·· 8 天前AI 评分29

SpecMRL:在参数谱系中重新设计 Matryoshka 表示学习

SpecMRL: Redesign Matryoshka Representation Learning within Parametric Spectrum

来源与原文

arXiv · cs.CL

作者:Zhongxin Chen

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.26824v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

研究者提出 SpecMRL,通过按特征重要性组织的参数谱基扩展 Matryoshka 表示学习(MRL),使前缀读取在学习的谱空间中进行。在 MTEB 上,SpecMRL 在所有评估的降维尺寸上都优于 MRL,压缩越激进收益越大。仅用一半嵌入维度即可超过全维度的 MRL。

来源:arXiv · cs.CL · arxiv.org