研究者提出 CIGA 框架改进 LLM 指令微调数据选择
热点事件持续更新
研究者提出 CIGA 框架改进 LLM 指令微调数据选择
1 篇报道1 个报道来源20 小时前更新
先了解这件事
AI 综述
Jia Gu 等研究者在 arXiv 论文(arXiv:2610.36755)中提出内容不变梯度归因(CIGA)框架,用于大模型指令微调数据选择。论文称,现有全局梯度归因方法存在表面形式偏差,措辞或格式等无关改动会导致归因分数不一致。
AI 根据报道生成 · 2 小时前更新
最新进展10月27日 15:12
基于 内容不变梯度归因(CIGA)的鲁棒 LLM 数据选择方法报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv · cs.AI基于 内容不变梯度归因(CIGA)的鲁棒 LLM 数据选择方法
研究者提出 Content-Invariant Gradient Attribution(CIGA),解决现有全局梯度归因方法在指令微调数据选择中的表面形式偏差问题——措辞或格式等无关改动会导致归因分数不一致。CIGA 先筛选梯度稳定且具影响力的层以降低格式噪声,再将其与语义表征动态融合。多项 benchmark 实验显示,CIGA 在扰动下排序更稳定、平均性能更高,同时降低归因成本。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。