人脸识别-损失函数: 介绍Softmaxloss→CenterLoss→L-SoftmaxLoss→SphereFace→CosFace→ArcFace

一、Softmax Loss函数分析

L = -\sum_{j=1}^{T}y_{j} \log (S_{j})= -\cfrac{1}{N} \sum_i \log \left (\cfrac{e^{\mathbf{w}_{y_i}^T \mathbf{x}_i}}{\sum_{j} e^{\mathbf{w}_{j}^T \mathbf{x}_i}} \right)

• 首先 L 表示的是损失函数。
• S_j 对应的是 Softmax 输出向量 S 中的第 j 个元素，这一部分内容之前已有说明，其作用是表示当前样本归属于第 j 类的概率。
• 在 y_j 前面存在一个求和符号，且变量 j 的取值范围是从 1 到类别总数 T，因此可以判断出 y 是一个维度为 1×T 的向量，在该向量中包含有 T 个数值，其中仅有一个值为 1，其余的 T-1 个值均为 0。具体来说，哪一位置上的数值为 1 呢？答案是与真实标签相对应的位置上取值为 1，其余位置均取值为零。

1、单个样本 \textbf{x}^i 的 Softmax Loss公式

$loss^i = -\sum_{j=1}^{K}y_{j} log (\hat{y}_j^i)\xlongequal[]{样本i只属于一