A Question on the Explainability of Large Language Models and the Word-Level Univariate First-Order

本篇文章属于LLM系列内容，主要涉及对《关于大语言模型可解释性的问题及词级单变量一阶合理性假设》这一文献的译介工作。

大语言模型的可解释性问题及单词级单变量一阶可解释性假设

• 摘要
  • 引言
  • 背景
  • 实验设置
  • 实验结果
  • 结论

摘要内容提炼

近期研究表明，大型语言模型的可解释性在训练过程中对随机因素具有高度依赖性，因此有必要对这种敏感特性进行系统阐述。我们引入了一个关键特征，用以探讨为这类模型生成简洁且富有信息量的解释是否具备可行性。为此，我们明确了解释中信号、噪声及信噪比的统计学定义。通过典型案例研究发现，在运用一阶统计方法分析单词层面的单变量解释时，基于特征的简单模型所呈现的解释相较于 transformer 模型，往往包含更丰富的信号成分与更低的噪声干扰。随后，我们进一步探讨了采用更为复杂的信号与噪声定义方式来优化现有成果的可能性，这些新定义不仅能够涵盖更深入的解释维度与分析手段，同时也促使读者重新审视其合理性所面临的权衡问题。

引言

背景

实验设置

实验结果呈现

结论

我们的研究结果指出，当仅进行简单解释时，相较于基于Transformer架构的模型（例如CamemBERT），简单模型或许能携带更丰富的统计信息（即，其解释倾向于将注意力集中在对比度更