NHNM方法将正样本转化为指令困难负样本用于检索训练
热点事件持续更新
NHNM方法将正样本转化为指令困难负样本用于检索训练
1 篇报道1 个报道来源18 小时前更新
先了解这件事
AI 综述
Chaolang Li 等在 arXiv 论文中提出 Natural Hard-Negative Mining(NHNM),把原始正样本转化为指令困难负样本,并通过 Candidate Cleaning、Reversal Construction 与 Geometry Filtering 自动生成对比监督数据。 作者基于 MSMARCO 构建了约 7K 实例的 IFIR 训练集 NHNM-MARCO;568M 至 4B 参数的模型在其上微调后,在 InstructIR 与 FollowIR 上表现强劲,部分设定下匹敌或超越更大规模检索器。消融实验显示增益来自自然困难负样本监督,而非模型规模或数据量。
AI 根据报道生成 · 2 小时前更新
最新进展10月27日 17:31
NHNM:从正样本中挖掘自然困难负样本以支持指令跟随检索报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv · cs.AINHNM:从正样本中挖掘自然困难负样本以支持指令跟随检索
论文提出 Natural Hard-Negative Mining(NHNM),将原始正样本转化为指令困难负样本,并通过 Candidate Cleaning、Reversal Construction 与 Geometry Filtering 自动生成高质量对比监督。基于 MSMARCO 构建了约 7K 实例的 IFIR 训练集 NHNM-MARCO;568M 至 4B 参数的模型在其上微调后,在 InstructIR 与 FollowIR 上表现强劲,在若干设定下匹敌或超越更大规模的检索器。消融实验表明增益来自自然困难负样本监督而非模型规模或数据量。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。