神经网络与深度学习第4章课程学习笔记

第四章 深层神经网络

学习Andrew Ng老师的神经网络课程，并记下重要内容；老师讲解深入浅出、易于理解。

文章目录

• 第四章 深度神经网络
  • 4.1 深度神经网络
  • 4.2 神经网络中的前向传播机制
  • 4.3 矩阵维度的验证过程
  • 4.4 深度神经网络的应用背景是什么？
  • 4.5 构建深度神经网络模块
  • 4.6 正向与反向传播过程
  • 4.7 超参数的影响因素有哪些？
  • 4.8 神经元与深度神经网络的关系探讨

4.1 深层神经网络

这一节的主要内容较为基础。它主要探讨了对浅层面人工 Neural network的一种延伸。在第3章中讨论了仅包含两层层结构的人工 Neural network模型。而逻辑斯蒂回归可被视为一种单层层的人工 Neural network模型。相比之下深度 Neural network则具备多于一层隐藏层数量的人工 Neural network架构。例如一个拥有四隐含层数量的深度前馈人工 Neural network包含五隐含层数量

本节介绍了深层神经网络中用到的标记，与浅层神经网络一致。

L表示一共的层数；

第l层的神经元数量由n^{[l]}代表；输入层的神经元数量被设定为n^{[0]}=n_x；输出层通常由单个神经元组成；通常情况下输出层只有一个神