Advertisement

caffe layer analysis_SofmaxLoss

阅读量:
    • 损失函数
      • 可配置参数
      • 应用方式
      • 进阶应用

Loss Function

softmax_loss的计算过程分为两个阶段:

(1)确定softmax归一化概率

归一化概率

(2)计算损失值

这里写图片描述

以下以batchsize=1的二分类任务为例进行说明:
假设网络最后一层输出结果为[1.2 0.8],在进行最大值减法处理后,得到新的数值为[0 -0.4]。
接下来通过归一化计算概率分布,最终获得[0.5987 0.4013]。
若该图像的真实类别标签为1,则对应的损失函数值可表示为Loss=-log(0.4013)=0.9130。

可选参数设计与应用

(1) ignore_label

int类型变量,初始值为空。
当设定具体数值后,所有标签值与ignore_label相等的样本将不

全部评论 (0)

还没有任何评论哟~