人工神经网络：反向传播算法（一）

反向传播算法基础解析

• 1. 总结

  • 2. 反向传播算法

  • • 2.1 简化偏导数的计算过程
    • 2.2 后向传播算法的具体实施步骤

  • 3. 结语

  • 参考文献

研究回顾与现状分析

在上一讲中，我们重点阐述了通过梯度下降法寻找人工神经网络目标函数局部极值的基本原理。在本次讲解中，将围绕某一具体神经网络模型，详细解析梯度下降法的实际求解步骤。

2. 反向传播算法

接下来继续分析这个基础的神经网络结构，此前已说明该网络中需要确定的参数总数为9个，具体包括(w_{11},w_{12},w_{21},w_{22},w_1,w_2,b_1,b_2,b_3)这几个变量。

目标函数可表示为：
Minimize:E(w,b)=\frac12(y-Y)^2

其中 y 的计算依据如下公式进行：
a_1=ω_{11}x_1+ω_{12}x_2+b_1（第一个神经元）
a_2=ω_{21}x_1+ω_{22}x_2+b_2（第二个神经元）
z_1=φ(a_1)（非线性函数）