arXiv · cs.CL· Zhongxin Chen·· 8 天前AI 评分29
SpecMRL:在参数谱系中重新设计 Matryoshka 表示学习
SpecMRL: Redesign Matryoshka Representation Learning within Parametric Spectrum
来源与原文
arXiv · cs.CL
作者:Zhongxin Chen
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.26824v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
研究者提出 SpecMRL,通过按特征重要性组织的参数谱基扩展 Matryoshka 表示学习(MRL),使前缀读取在学习的谱空间中进行。在 MTEB 上,SpecMRL 在所有评估的降维尺寸上都优于 MRL,压缩越激进收益越大。仅用一半嵌入维度即可超过全维度的 MRL。
来源:arXiv · cs.CL · arxiv.org