Advertisement

Softmax函数隐式维度选择的警告:原理及解决方案

阅读量:

前言:

博主在近期进行模型构建过程中,突然出现警告提示,推测可能与新版函数存在相关问题。

一、softmax函数

在多分类任务中,softmax函数被广泛应用,其作用是将多个神经元的输出结果转换至(0,1)区间内,这一特性使其能够被解释为概率分布,从而实现对各类别归属的判断!

假设有这样一个数组V,其中Vi代表该数组中的第i个元素,则该元素对应的softmax计算结果为

更为直观的展示方式如图所示:

softmax函数的作用可以简单理解为:将原本输出的数值如3、1、-3,经过该函数处理后,转换为介于0与1之间的数值,并且所有数值之和等于1,这一特性符合概率分布的基本要求。因此,我们可以将这些转换后的数值视为概率值。在最终确定输出节点时,选择概率值最高的节点,即对应数值最大的节点,作为预测结果。

二、问题解决策略与实施

2.1 softmax帮助文档:

全部评论 (0)

还没有任何评论哟~