AutoRE: Document-Level Relation Extraction with Large Language Models

本篇文章属于LLM系列内容，主要对《AutoRE: Document-Level Relation Extraction with Large Language Models》这一文献进行译介。

AutoRE:基于大型语言模型的文档级关系提取

• 摘要
  • 1 引言
  • 2 相关研究
  • 3 技术路径
  • 4 测试分析
  • 5 总结归纳
  • 不足之处

摘要

大型语言模型（LLM）在文本的理解与生成方面展现出卓越的能力，促使众多研究者将其应用于信息提取（IE）任务，其中包含关系提取（RE）。然而，目前多数现有的方法主要针对句子级关系提取（SentRE）任务进行设计，这类任务通常在一个句子中仅涉及有限数量的关系和三元组事实。与此同时，部分方法将关系视为嵌入到提示模板中的候选选项，从而在处理文档级关系提取（DocRE）任务时出现效率较低、性能欠佳的问题。此类任务需要处理分布在特定文档中的多个关系和三元组事实，这带来了显著的挑战。为了解决这些局限性，我们提出了AutoRE，这是一种端到端的DocRE模型，并引入了一种全新的关系提取范式RHF（Relation HeadFacts）。与现有技术不同的是，AutoRE无需依赖已知关系选项的前提假设，从而更贴近现实场景的应用需求。此外，我们还借助参数高效微调（PEFT）算法QLoRA构建了一个具备良