EHR模型十年尺度时间上下文评测

1. 08:34
   arXiv · cs.AI

   EHR 基础模型的时间上下文需回溯多久？结直肠癌预测最长评估至 30 年

   研究提出"时间上下文"（预测点前的日历回溯窗口），首次系统评估 EHR 基础模型十年尺度的时间上下文。团队在西北伦敦 3.6M 初级诊疗患者的 1.4B 编码事件上预训练 34.6M 参数的 decoder-only Transformer，预测结直肠癌时 AUROC 从 2 年的 0.551 升至 18 年的 0.590 后趋于平稳，约 80% 增益在 10 年内达成，XGBoost 基线峰值 AUROC 为 0.589。模拟还显示默认基频下 RoPE 在约 20 年后出现混叠，需重新调参 θ。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。