SD-LoRA：训练时结构蒸馏进LoRA，少样本适配提升
热点事件观察中
SD-LoRA：训练时结构蒸馏进LoRA，少样本适配提升
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
Mohammed Rahman Sherif Khan Mohammad 提出 SD-LoRA：训练时用异构图教师模型建模 patch-patch、全局-局部与视觉-文本关系，再通过隐式蒸馏和 Prototype Predictive Alignment 把结构偏置迁移到 CLIP-LoRA 主干；推理时丢弃图教师，只需一次 CLIP-LoRA 前向和缓存分类器，测试时不增加图计算。 在 11 个少样本基准上，该方法在 1/2/4/8/16-shot 设置下分别比强 CLIP-LoRA 基线提升 2.4/1.8/3.0/2.4/2.0 个百分点。该工作已被 NeurIPS 2026 接收，代码已公开。
AI 根据报道生成 · 5 小时前更新
最新进展11月5日 03:22
SD-LoRA：将训练时结构蒸馏进 LoRA，实现少样本视觉-语言适配报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- arXiv · cs.AISD-LoRA：将训练时结构蒸馏进 LoRA，实现少样本视觉-语言适配
SD-LoRA 提出一种结构蒸馏框架，训练时用异构图教师模型建模 patch-patch、全局-局部与视觉-文本关系，再通过隐式蒸馏和 Prototype Predictive Alignment 将结构偏置迁移到 CLIP-LoRA 主干，推理时丢弃图教师，仅需一次 CLIP-LoRA 前向和缓存分类器。在 11 个少样本基准上，该方法在 1/2/4/8/16-shot 设置下分别比强 CLIP-LoRA 基线提升 2.4/1.8/3.0/2.4/2.0 个百分点，且测试时不增加图计算。该工作已被 NeurIPS 2026 接收，代码已公开。
本事件热度走势
- 可比范围当前
- 4
- 可比范围峰值
- 411月6日 11:00
- 近 24 小时变化
- –
01234
11:0012:0013:0014:0015:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。