An Empirical Study of Catastrophic Forgetting in Large Language Models During Continual Fine-tuning

本篇文章属于LLM系列内容，主要对应于《大型语言模型在持续微调过程中灾难性遗忘现象的实证研究》一文的译介。

大模型在连续微调过程中灾难性遗忘的实证研究

• 摘要
  • 1 引言
  • 2 相关研究
  • 3 技术手段
  • 4 实验设计
  • 5 实验结果
  • 6 总结分析

摘要

灾难性遗忘（CF）是机器学习中出现的一种现象，当模型在获取新知识的过程中，可能会丢失之前习得的信息。鉴于大型语言模型（LLM）已展现出卓越的表现，探讨CF是否存在于LLM的持续微调过程中具有重要意义。本研究从领域知识、推理能力以及阅读理解等多个维度，对LLM在知识保留方面的表现进行了实证分析。实验结果显示，在参数规模为1b至7b之间的LLM中，通常可以观察到灾难性遗忘现象。同时，随着模型规模的扩大，这种遗忘问题的严重程度也趋于增强。通过将仅包含解码器结构的BLOOMZ模型与具备编码器-解码器架构的__mT0模型进行对比发现，BLOOMZ在持续微调过程中表现出更弱的遗忘倾向，并能够保留更多的已有知识。此外，在持续微调的过程中，我们还发现LLM能够有效缓解语言偏见问题（如性别偏见）。进一步研究显示，相较于LLAMA模型，ALPACA在持续微调过程中能更好地维持其知识储备与各项能力，这一结果表明，在后续的微调阶段中，通用指令调整策略有助于减轻LLMs所面临的遗忘问题。