Improving Generalizability of Extracting Social Determinants of Health

本篇文章属于LLM系列内容，主要对应《通过提示调优提升大型语言模型提取健康社会决定因素泛化能力》一文的译介。

通过提示调整提高使用大型语言模型提取健康社会决定因素的通用性

• 概要
  • 序言
  • 技术路径
  • 实验数据
  • 分析探讨
  • 总结归纳

摘要内容提炼

自然语言处理（NLP）领域借助大型语言模型（LLM）的持续发展，显著提升了从临床文本中提取患者相关信息的效率与准确性。然而，当前多数依赖微调策略的模型在面对不同领域数据时，其迁移学习能力仍存在明显局限。本研究设计了一种创新性方案，该方案采用软提示学习框架，通过引入可训练的提示机制，引导LLM生成目标输出。实验过程中，我们对两种架构类型的LLM进行了分析与对比，分别为仅包含编码器结构的GatorTron和仅包含解码器结构的GatorTronGPT。为验证其性能表现，我们在2022年n2c2挑战赛提供的跨机构数据集以及佛罗里达大学健康学院构建的跨疾病数据集上进行了测试，重点评估其在提取健康社会决定因素（SDoH）方面的效果。实验结果表明，在跨域任务中结合提示调整机制的仅解码器型LLM展现出更优的表现。其中，GatorTronGPT在两个测试数据集中均取得了最高的F1分数，在跨机构场景下分别较传统微调方式下的GatorTron提升了8.9%和21.8%，而在跨疾病场景下则分别提升了5.5