吴恩达的《深度学习》涵盖反向传播

反向传播图示解析

一个仅包含单一隐藏层的神经网络，其正向传播过程及反向传播机制如下所示。

反向传播的向量化表示

dz^{[2]}=A^{[2]}-Y

dw^{[2]}=\frac{1}{m}dz^{[2]}A^{[1]T}

db^{[2]}=\frac{1}{m}np.sum(dz^{[2]},axis=1,keepdims=true)

dz^{[1]}=w^{[2]T}dz^{[2]}*g^{[1]'}(z^{[1]})

dw^{[1]}=\frac{1}{m}dz^{[1]}x^T

db^{[1]}=\frac{1}{m}np.sum(dz^{[1]},axis=1,keepdims=true)

• 上述表达式中，参数keepdims=true的作用在于维持Python计算结果的矩阵形式。而符号$g^{[