Clinic-LLM 仓库实测四款医疗大模型的提示词注入脆弱性并提出 UMLS 图检测方法

该 GitHub 仓库发布了一项医疗大模型提示词注入研究的匿名实现，对 MedGemma 4B、BioMistral 7B、Mistral 7B Instruct v0.2 和 MedAlpaca 7B 四个模型，在 PubMedQA（1,000 题）和 MedQA USMLE（1,273 题）两个数据集上评测八类注入攻击，并提出基于 UMLS 知识图谱的 GAT 检测器。品牌操纵攻击在 PubMedQA 上对 MedGemma 成功率达 76.4%、Mistral 75.5%、BioMistral 70.1%，MedAlpaca 仅 24.9%；选择题形式显著降低攻击成功率。