神经网络收敛的意义在于它表明模型已经停止更新参数并达到了稳定的输出
发布时间
阅读量：
阅读量
1、bp神经网络收敛问题
显然，下降速度会变得更为缓慢。这是因为在接近最低点时，训练过程已进入误差曲面的平坦区域，每一次搜索所带来的误差减少幅度都在逐渐降低。从BP神经网络的误差修正公式中可以清晰地看出这一现象。
实际上，收敛速度的逐步放缓是一种正常现象。若希望避免这种情形，可以通过自适应方式对学习率进行调整。
传统BP算法所采用的学习速率是恒定不变的，这导致了网络收敛过程较为缓慢，并需要耗费较长的训练时间。对于某些复杂的任务而言，BP算法可能需要极为漫长的训练周期，其主要原因在于学习速率设置过低。对此问题，可通过引入可变的学习速率或自适应的学习速率策略加以优化。
BP算法能够让网络权值最终趋于某一数值，但并不能确保该数值为误差平面上的全局最小点。这是因为梯度下降法在运行过程中可能会陷入局部最小值的问题。针对这一缺陷，可以借助附加动量法予以改善。
谷歌人工智能写作项目：小发猫
还没有任何评论哟~