HelloDNN上的MLP学习笔记

前言
学那个技术第一步都是helloworld，AI也是一样，我们来吧

1、从感知机说起

这是一个3输入1输出的感知机模型

输入输出之间学到一个线性关系

然后一个神经元激活函数

但这类模型无法学习比较复杂的非线性模型，且只能做2元分类

2、引入多层感知机神经网络

MLP在对感知机模型进行改进的主要方面有三点 2.1 隐藏层 主要针对提升模型的表达能力，在其他条件不变的情况下层数越多则模型的能力越强 然而这也导致参数数量呈线性增长 并进而影响到训练阶段以及正向传播过程中的计算资源消耗 因此需要找到