2021 Domain Adaptation（李宏毅）

在前述模型中，通常会设定训练数据与测试数据遵循一致的分布规律。然而，当训练数据与测试数据源自不同分布时，模型在测试集上的表现将显著下降，此类现象被定义为域偏移。（域的转变）

领域自适应学习属于迁移学习的重要组成部分，其核心在于将某一领域（A domain）中获得的知识迁移到另一领域（B domain）中加以应用。该技术也可理解为将某一任务（A任务）中习得的能力拓展至另一任务（B任务）中的过程。

Domain Shift 实际上涵盖多种不同的形式：

当模型输入数据的分布发生变化时（例如源域为黑白图像，目标域为彩色图像）
输出数据的分布也可能发生改变（例如源域为均匀分布，目标域为极端分布）
即使输入与输出的分布保持一致，它们之间的关系可能发生改变（例如在源域中“0”代表某一类别，而在目标域中则被标记为“1”）
本文仅聚焦于输入数据存在差异的 Domain Shift 情况。