模型参数设置、通过梯度更新步骤初始化模型参数、进行前向传播以获取模型预测输出、计算预测输出与真实目标之间的损失函数 Loss、通过反向传播和梯度下降方法更新模型参数

深度学习模型更新流程

• 一、单层结构且仅具备单一输出的“感知机”梯度

  • 二、单层结构但具有多个输出的“感知机”梯度

  • 三、具备多层结构并支持多输出的“感知机”梯度

  • 二、反向传播算法与链式法则的关系

  • • 1、计算图构建与反向传播机制
    • 2、神经网络内部的反向传播过程
    • • 2.1 神经网络的整体架构示意图
      • 2.2 构建神经网络的计算图表示方式
      • 2.3 反向传播算法中链式法则的应用

  • 三、模型参数更新流程

  • • 0、Step0：对权重参数进行初始化设置

    • 1、Step1：执行前向传播，用于预测目标值

    • 2、Step2：根据预测结果计算损失函数Loss

    • • 2.1 针对回归类问题的处理方式
      • 2.2 针对分类类问题的处理方式

    • 3、Step3：通过反向传播实现参数更新操作

  • 四、使用Pytorch实现线性回归模型

  • • 4.1 前向计算过程解析

    • • 4.1.1 具体计算步骤说明
      • 4.1.2 requires_grad与grad_fn的作用机制

    • 4.2 梯度的计算方法详解

    • 4.3 线性回归模型的具体实现步骤

• 案例：手动构建多层感知机，并使用numpy进