神经网络模型的描述为简单的神经网络模型

神经网络算法原理

4.2.1 概述

计算机研究与人工神经网络研究几乎同时进行。于1943年心理学家McCulloch与数学家Pitts共同建立了形式化的人工神经元模型，在20世纪50年代后期Rosenblatt开发了感知机学习算法。于1982年Hopfield引入了能量函数概念并构建了一种基于能量的神经网络数学框架，在同一年代初期，在此基础上于1986年由Rumelhart及其同事进一步发展出多层感知机，并引入了高效的反向传播训练算法。

在众多研究者的共同努力下, 神经网络技术的发展态势日益向好, 其算法门类不断丰富. 当下, 关于神经网络理论的研究已经取得了丰硕成果, 多种基础理论著作相继问世, 并且这一领域仍被公认为是非线性科学研究的核心议题之一.

基于模仿人类大脑神经网络构造的人工智能信息处理体系

人工神经元作为神经网络的基本单元，在现代深度学习体系中占据着核心地位。当前关于人工神经元的研究涉及多种不同的模型架构与算法设计，在实践中人们发现二层可训练前馈网络因其高效的计算能力而被广泛采用，并取得了良好的实验效果（图4-3）。

图4-3 人工神经元与两种常见的输出函