三层神经网络作为深度神经网络的一种训练模型是如何进行的？

深度神经网络是如何训练的？

我已经学过分类算法相关的课程内容。确实记得 Ng 的机器学习课程中是直接给出了相关的数学公式。虽然你可能知道如何求解优化问题, 但是即使不知道具体求解方法, 完成作业也不是一个问题, 只要按照课本中的公式步骤进行编码实现就行。

说实话当时看完的时候心里也没法透彻地理解。
我觉得想了解UFLDL教程-Ufldl的人应该会觉得这本书不错。
练习之后确实能加深对深度学习原理的理解。
但是总体上来说仍不够透彻。

阅读了LiFeiFei教授在Stanford University开设的CS231n课程：《Convolutional Neural Networks for Visual Recognition》，我对CNN的理解得到了显著的进步。

静下心来深入研究公式结构，并且多加思考与实践能够更好地掌握知识。真正理解了反向传播的工作原理是链式法则的应用。虽然之前已经知道一些基本概念, 但当时对于其中细节的理解确实不够透彻。每一个梯度实际上都是对最终损失函数求导的结果, 也就是标量对矩阵或向量求导。

当您深入学习时会发现还有很多其他方面的知识与CNN相关联。