MATLAB神经网络编程（五）——BP神经网络的学习规则及其模型架构

《MATLAB神经网络编程》作为教材，在化学工业出版社出版后被广泛采用作为教学用书

本文属于《MATLAB神经网络编程》这本书的阅读笔记，在书中所提及的各种源代码、数学公式以及基本原理均源自此书。
如对内容仍有疑问，请参考原著。

感知器型神经网络的学习规则与LMS学习算法仅限于训练单层结构，在处理这类模型时会遇到一定的限制。然而，在面对线性可分的情况时这些方法仍然有效。相比之下多层感知机架构能够更好地应对复杂的非线性分类任务但其训练过程往往需要采用更为先进的优化策略以确保系统的泛化能力得到提升。

一，什么是ＢＰ神经网络

BP（Back Propagation）算法是由Rumelhart及其领导的McCelland团队于1986年首次提出的，在深度学习领域具有重要地位。该算法基于误差逆传播算法训练而成的一种多层前馈神经网络模型，并被认为是目前应用最广泛的神经网络模型之一之一。该网络能够有效地存储并实现大量输入与输出之间的模式映射关系，并无需预先明确这种模式映射关系所遵循的具体数学方程。其学习机制采用最速下降法原理，并通过反向传播算法不断优化调整各层节点之间的权值与阈值参数，使得整个神经网络系统的总误差平方和达到最小值。BP神经网络模型的整体架构通