含噪声数据的神经网络双温度逻辑损失

谷歌推出新型分类损失函数：有效抑制噪声对训练效果的干扰
在训练数据集中，标签信息往往并非完全准确，例如在图像分类任务中，若有人误将猫标注为狗，将会对模型的训练过程产生不利影响。

在不改变原始训练样本的前提下，如何最大限度地减少此类噪声数据对机器学习模型造成的负面影响？

近期，谷歌团队提出了一种全新的损失函数，成功应对了机器学习算法在面对噪声数据时所面临的关键难题。

逻辑损失函数存在的局限性

机器学习模型在处理包含噪声的训练数据时的表现，在很大程度上受到所采用损失函数的影响。

当前广泛应用于图像分类任务的逻辑损失函数（Logistic loss），其本身存在两个显著缺陷，这使得其在处理含有噪声的数据时表现出一定的局限性：

**

谷歌提出新分类损失函数：将噪声对训练结果影响降到最低

**
1、远离的异常值会支配总体的损失

逻辑损失函数对异常值具有高度敏感性。这一特性源于其损失函数本身不存在上限，而那些被错误标注的数据点通常位于决策边界之外的较远区域，从而对整体损失产生显著影响。

![在这里插入图片描述](https://cdl