跳到正文
arXiv · cs.CL· Jiacheng Lin·· 14 天前精选AI 评分61

编码智能体长文档任务研究发布 TrialPD-Bench 基准与 TrialScribe 框架

The Last Mile of Coding Agents for Long-Document Tasks: An Empirical Study on Clinical Trial Protocol Digitization

来源与原文

arXiv · cs.CL

作者:Jiacheng Lin

发布时间:(北京时间)

阅读原始来源 · arxiv.org ↗
完整链接与内容说明

https://arxiv.org/abs/2610.18507v1

本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。

AI 导读

研究者以临床试验方案数字化为测试场景,发布含 150 份公开协议 PDF、四个任务类别的专家标注基准 TrialPD-Bench,并评估九个模型在五种 coding-agent harness 下的表现。结果显示最强智能体也无法完全解决该任务,通常能定位所需证据但在转写与结构化的最后一公里失败;配套的领域 harness TrialScribe 加入任务技能与验证循环,使本地部署的开源模型在八项指标上提升 6.2-59.4 分,达到或超过 GPT-5.6-Sol 等专有模型。

推荐理由

原文用专家标注基准把编码智能体在长文档任务上的失败定位到转写与结构化环节,并给出可复用的领域harness改进数据。

来源:arXiv · cs.CL · arxiv.org