跳到正文
热点事件观察中

Adaptive-LoRA:NeurIPS 2026 论文提出稀疏层选择微调方法

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

一项被 NeurIPS 2026 主会接收的研究提出 Adaptive-LoRA 方法:通过机械可解释性分析发现 LoRA 的适配效果在层级上高度稀疏,并基于冻结基座的 zero-ablation 校准自动选择任务相关层。在 Qwen2.5-1.5B 上跨 11 个推理任务,该方法仅用 30% 的层即超过全层 LoRA,适配器参数减少 3.5 倍。 研究还发现关键层高度依赖任务、跨任务重叠有限,这也是需要自动层选择的原因。论文来自 Fei Zuo 等人,已发布在 arXiv(arXiv:2610.34756)。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. arXiv · cs.CL精选
    Adaptive-LoRA 论文:用 Path Patching 揭示 LoRA 层稀疏性并自动选择任务相关层

    一项被 NeurIPS 2026 主会接收的研究通过机械可解释性分析发现 LoRA 的适配效果在组件和层级上高度稀疏,且关键层高度依赖任务、跨任务重叠有限。论文提出 Adaptive-LoRA,基于冻结基座的 zero-ablation 校准自动识别任务相关层;在 Qwen2.5-1.5B 上跨 11 个推理任务仅用 30% 的层即超过全层 LoRA,适配器参数减少 $3.5\times$。论文地址 https://arxiv.org/abs/2610.34756v1。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。