深度学习领域主要损失函数类型介绍（第九章）

文章目录

• • 损失函数
  • Pixel-wise Loss
  • • MSE 均方误差
    • MAE 平均绝对误差
    • CE 交叉熵损失

• 感知丢失

  • 内容-风格丢失

  • 纹理丢失

  • 拓扑感知丢失

  • GAN丢失

  • • 最小最大 损失函数
    • 非饱和的GAN丢失
    • 最小均方GAN丢失
    • Wasserstein GAN 损失
    • 循环一致性丢失

  • 总结

写在最前面的话：本文主要整理深度学习中的损失函数，从原理到作用，详细了解损失函数。

损失函数

损失函数（loss function） 是用来衡量模型预测值f(x)与真实值y之间的差异程度的一个数值指标。其数值为非负实数，并通过符号L(f(x), y)来表示。该指标在机器学习模型性能评估中扮演着关键角色，在于选择合适的损失函数有助于模型在数据集上达到最优收敛效果。此外它的大小直接反映了模型对数据分布拟合的好坏：其数值越小则表明模型具有更好的鲁棒性特性。从构建机器学习系统的角度来看 损失函数是经验风险项的核心组成部分 同时也是结构化风险估计的重要要素之一。具体而言 结构化风险估计由两部分组成：首先是基于训练数据的经验误差项 以及为