深度学习中的softmax和多层感知机用于分类模型

阅读量：

softmax

简单分类问题分析

一个基础的图像分类任务中，输入图像的高度与宽度均为2个像素点，且采用灰度色彩模式。图像中的四个像素点分别被标记为 $x_1,x_2,x_3,x_4$ 。实际对应的类别包括狗、猫和鸡，这些类别分别对应离散数值 $y_1,y_2,y_3$ 。在实际应用中，通常会采用离散数值来表征不同的类别，例如将狗对应为 $y_1=1$ 、猫对应为 $y_2=2$ 、鸡对应为 $y_3=3$ 。

神经网络图

以下图表通过神经网络结构图示呈现了前述计算过程。与线性回归模型相似，softmax回归同样属于单层神经网络架构。鉴于每个输出节点 $o_1,o_2,o_3$ 的计算均需借助所有输入变量 $x_1,x_2,x_3,x_4$ ，因此softmax回归的输出层被归类为全连接层结构。

权重矢量

【
$o_1=x_1w_{11} +x_2w_{21} + x_3w_{31}+x_4w_{41} + b_1$
$o_2=x_1w_{12} +x_2w_{22} + x_3w_{32}+x_4w_{42} + b_2$
$o_3=x_1w_{13} +

全部评论 (0)

还没有任何评论哟~