ChainLM: Empowering Large Language Models with Improved Chain-of-Thought Prompting

本篇文章属于LLM系列内容，主要对《ChainLM: Empowering Large Language Models with Improved Chain-of-Thought Prompting》这一文献进行译介。

ChainLM：用改进的思想链提示为大型语言模型赋能

• 摘要
  • 1 引言
  • 2 实证分析
  • 3 CoT改进
  • 4 实验
  • 5 相关工作
  • 6 结论

摘要

思维链提示技术能够有效提升大型语言模型在推理方面的表现，进而成为处理复杂推理任务的重要手段。当前的CoT合成方法多集中于较为基础的推理问题，这往往造成生成的CoT提示质量偏低且存在不一致性。针对这一问题，我们对CoT提示展开了实证性探究，并提出了一种全新的自动生成高质量CoT提示的框架——CoTGenius。该框架构建在三种关键的进化策略之上，包括复杂度提升、多样性扩展以及特定化处理，并结合了两种过滤机制：进化成效评估与正确性校验。我们进一步借助CoTGenius生成了一个覆盖范围广泛的CoT数据集，并基于此数据集对Llama 2-Chat 7B和13B模型进行微调。所得到的模型被命名为ChainLM。为应对推理过程中可能出现的错误累积现象，我们设计了一种基于步骤级辩论的方法，通过多个辩论者就每个推理步骤展开讨论以得出准确结论。大量实验结果表明，在一系