arXiv · cs.AI· Oliver Jaffe·· 21 天前精选AI 评分55
TasteVal 基准发布：衡量 AI 系统相对人类专家的实验研究品味
TasteVal: Measuring the Experimental Research Taste of AI Systems Against Human Experts
来源与原文
arXiv · cs.AI
作者：Oliver Jaffe
发布时间：（北京时间）
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2610.06824v1
本站目前仅有 AI 导读与摘要，未展示原文正文；技术细节、代码和完整结论请查看原始来源。
AI 导读
arXiv 论文提出 TasteVal 基准，用于评估前沿模型挑选问题、设计实验和解读结果的实验研究品味，并将其操作化为算力效率。基准含 8 个开放式任务，由被测模型担任 Researcher、固定 Coder agent 负责实现，预算为 40 H100 小时或 120 小时墙钟时间，另招募 24 名人类专家、每任务至少 2 人，取每人任务最佳成绩为基线。
推荐理由
论文把实验研究品味量化为算力效率，并给出模型与 24 名人类专家的对照数据，可用于理解 AI 研究能力的度量方式。
来源：arXiv · cs.AI · arxiv.org