arXiv · cs.CL· Nur A Zarin Nishat·· 21 天前AI 评分41
小语言模型在抽象推理任务上的系统性研究
A Systematic Study of Small Language Models on Abstract Reasoning Tasks
来源与原文
arXiv · cs.CL
作者：Nur A Zarin Nishat
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.08680v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
一项发表于 arXiv 的系统性研究在 ARC-TGI 基准上考察小语言模型的抽象推理能力，涵盖 decoder-only、encoder-decoder 和 MoE 模型家族，进行了超过 1,000 次运行。结果显示模型在训练分布内可达到较高准确率，但分布外性能急剧下降，即使规则不变、仅网格尺度变化也会退化；技能获取对优化敏感，且在不同任务族间分布不均。研究表明抽象推理分数依赖于模型、适配方式、评测分布和响应格式。
来源：arXiv · cs.CL · arxiv.org