arXiv · cs.CL· Md Sakib Ul Islam·· 13 小时前AI 评分36
语言模型新版本发布是否会延续此前的预训练信息披露？一项审计研究
What Carries Forward? Pretraining Disclosure Across Language Model Releases
来源与原文
arXiv · cs.CL
作者：Md Sakib Ul Islam
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.37465v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一项对 17 个模型族 41 个模型条目的文档审计显示，后续模型发布并不稳定延续早期的预训练信息披露。研究使用 2025 年 FMTI 的 24 项指标，在十个模型族的 24 组相邻对比中，11 组分数下降、6 组上升、7 组不变，共出现 38 次指标丢失和 28 次新增。即使总分稳定也可能掩盖丢失：OLMo-2 与 OLMo-3 总分相同但各有三项增减，Llama-3.1 相比 Llama-2 分数提高却丢了两项数据相关指标的得分。
来源：arXiv · cs.CL · arxiv.org