大模型时代下的生物医学文本挖掘初步探索

大模型时代下的生物医学文本挖掘初步探索罗 凌信息检索研究室计算机科学与技术学院大连理工大学2024年6月16日YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024生物医学文本挖掘l生物医学文本挖掘：将人工智能技术（自然语言处理技术和机器学习方法）应用于生物医学领域进行文本挖掘，提升健康医疗领域智能化与信息化的程度。2YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024生物医学关系抽取发展趋势-DDI为例l药物-药物关系抽取(Drug-Drug Interaction, DDI): 单一实体关系类型; 句子级关系360657075808590952015201620172019202020212023DDI (Segura-Bedmar et al., 2013)F1Feature-based SVMGraph Kernel-based methodHierarchy Bi-LSTMs +Att.+SDPBioBERTPubMedBERTDESC+MOL+SciBERTLlama2-13b tuning(Zhou et al, 2023, medrxiv)YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024生物医学关系抽取资源建设l现存生物医学关系抽取数据集:Ø单一实体/关系类型Ø句子级别关系l现实场景下，关系涉及多种实体对，并且存在跨句子关系 l大模型存在数据泄露的可能4需要一个更全面、更贴合现实场景、更新的生物医学实体关系抽取数据集YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024YSSNLP2024丰富类型的关系抽取数据集BioREDlBioRED: Ø600 PubMed 摘要Ø20,419 实体提及，3,869 唯一IDØ6,503 关系l特性：Ø六种