西瓜书Datawhale学习笔记（第6章）：神经网络基础

小白学习笔记，如有偏差敬请指出

目录

一、神经元模型

1.概念解析

2.模型借鉴

二、感知机与多层网络结构

1.感知机原理

2.多层网络（多层感知机，MLP）

三、误差反向传播算法

1.基本概念

2.算法步骤

四、全局最小值与局部极小值

1.两者的定义说明

2.趋近于全局最小值的策略

五、深度学习相关内容

六、参考文献列表

---

一、神经元模型构建与分析

1.概念解读与分析

在构建神经元模型之前，有必要对机器学习领域中的“神经网络”与生物学范畴内的“神经网络”进行简要的区分。

在机器学习中，神经网络是由大量具备自适应能力的简单单元构成的广泛并行互联结构，其组织方式能够模仿生物神经系统对现实世界中物体所作出的交互响应。

由此可见，机器学习中的神经网络概念与生物学中的神经网络概念之间存在一定的交叉性。

神经元：作为人工神经网络的基本构成要素，神经元模型的设计灵感源自于生物神经元的功能机制。其中最为基础的模型为感知机模型，该模型通过将输入信号进行加权求和，并结合激活函数进行运算处理，最终生成输出信号。

2.模型参考框架构建

M-P神经元模型中，神经元会接收来自n个其他神经元所传递的输入信号，这些信号通过具有权重的连接方式传输。在接收到所有输入信号后，神经元将对总输入值与自身的阈值