arXiv · cs.CL· Vladimir Necula·· 2 天前AI 评分43
指令微调早期阶段需要什么样的“高质量”数据：数据质量指标的实证研究
"High-Quality" Data for Early-Stage Instruction Tuning: An Empirical Study of Data Quality Metrics
来源与原文
arXiv · cs.CL
作者：Vladimir Necula
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.33969v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一项实证研究将指令微调中的“数据质量”操作化，在固定微调预算下比较多个示例级指标对训练效用的预测能力。方法是将样本按指标分数分为低、中、高三档分别微调，用验证 perplexity 和 LLM-as-judge 评分评估。结果显示，以 response ratio 衡量的答案密集型监督比常用替代指标更能稳定预测指令微调效用。
来源：arXiv · cs.CL · arxiv.org