arXiv · cs.AI· Manuela-Daniela Danu·· 20 小时前AI 评分25
CardioLM:面向心脏病学领域的多语言小型语言模型套件
CardioLM: A multilingual suite of small language models for the cardiology domain
来源与原文
arXiv · cs.AI
作者:Manuela-Daniela Danu
发布时间:(北京时间)
阅读原始来源 · arxiv.org ↗完整链接与内容说明
https://arxiv.org/abs/2611.07940v1
本站目前仅有 AI 导读与摘要,未展示原文正文;技术细节、代码和完整结论请查看原始来源。
AI 导读
CardioLM 包含在心脏病学与生物医学语料上继续预训练得到的语言特定编码器 CardioBERTa,以及在 CardioCCC 上微调的命名实体识别模型 CardioNER。CardioCCC 由 508 篇西班牙语心脏病病例报告经机器翻译、标注投影和临床医生审核扩展至捷克语、荷兰语、英语、意大利语、罗马尼亚语和瑞典语,标注覆盖疾病、症状、操作和药物。心脏病学专用预训练将伪困惑度最多降低 8 倍,但严格 span 级 F1 变化不超过 0.04;联合训练的多语言 XLM-RoBERTa-large 模型在几乎所有语言和实体类型上取得最佳严格 F1,比最强单语言系统高出最多 0.13 F1。
来源:arXiv · cs.AI · arxiv.org
这条消息,你怎么看?
把新闻带到 MickerBook,和社区伙伴聊聊;也可以去 AIHER 看看模型背后的角色与梗。