RBF和BP神经网络的优缺点对比 - 神经网络 - 机器学习基础知识

RBF神经网络与BP神经网络优缺点比较

1. RBF在网络泛化能力方面具备多方面的优势，然而在处理相同精度需求的问题时，BP网络的结构设计相较之下更为简洁。
2. RBF网络在逼近精度方面显著优于BP网络，几乎可以实现完全逼近，且设计过程简便快捷。网络具备自动增加神经元直至满足精度要求的能力。然而随着训练样本数量的增加，RBF网络隐层神经元的数量远超BP网络，导致其复杂度大幅上升、结构过于庞大，并因此增加了运算负担。
3. RBF神经网络是一种性能优越的前馈型神经网络，该网络能够以任意精度逼近任何非线性函数，并具有全局逼近能力，从根本上解决了BP网络存在的局部最优问题。同时其拓扑结构紧凑、结构参数可实现分离学习、收敛速度较快。
4. 两者的结构存在明显差异。BP网络通过不断调整神经元权值来逼近最小误差，通常采用梯度下降法进行优化；而RBF是一种前馈型神经网络，并非通过持续调整权值来逼近最小误差。其激励函数一般为高斯函数，与BP使用的S型函数不同，高斯函数依据输入与中心点的距离计算权重。
5. BP神经网络的学习速率固定不变，因此收敛速度较慢、训练时间较长。对于一些复杂问题而言，训练时间可能非常漫长，这主要由于学习速率较小所致；而RBF神经网络是一种高效的前馈式结构，在最佳逼近性能和全局最优特性方面优于其他前向型结构，并且具有简单结构和快速训练的优势。