神经网络和深度学习课程第4周作业

Course 1 - 神经网络和深度学习 - 第四周作业

• 1、本周主要关注点与挑战

  • 2、实施流程

  • 3、启动阶段

  • • 3.0 软件包的获取与准备工作
    • 3.2 网络参数的初始化设置
    • 3.2、前向传播过程
    • • 3.2.1 计算单层线性部分的求和操作
      • 3.2.2 激活函数计算环节（ReLU应用L-1次，Sigmod应用1次）
      • 3.2.3 线性求和结果与激活函数的整合处理

  • 4、误差计算步骤

  • 5、反向传播机制

    • 5.1 线性部分对应的反向传播公式推导
    • 5.2 激活函数相关部分的反向传播表达式
    • 5.3 线性部分与激活函数结合后的反向传播公式

  • 6、参数更新策略

  • 7、双层神经网络结构

    • 7.1 训练阶段实施方法
    • 7.2 预测阶段执行流程

*8、结果分析与讨论

1、本周重点与难点分析

• 重点：在本次教学过程中，我们将设计两种类型的神经网络模型，其中一种为包含两层结构的网络，另一种为具有多层架构的网络，且多层网络的具体层数可由用户自行设定。
  • 难点：[LINEAR-> ACTIVATION]前向传播函数

例如，若构建一个具有多层结构的神经网络，其整体架构可表示为