Advertisement

动手学Pytorch(一)——多层感知机的学习

阅读量:

文章结构概述

  • 1. 文献来源
    • 2. 感知装置
    • 3. 多层级感知装置
      • 3.1 隐藏单元

      • 3.2 激活机制

        • 3.2.1 Sigmoid激活机制
        • 3.2.2 Tanh激活机制
        • 3.2.3 ReLu激活机制
      • 3.3 多类别分类

1. 参考资料

[1] 深度学习实践教程 v2 - 由浅入深解析深度学习原理与代码编写
课程主页:https://courses.d2l.ai/zh-v2/
教材资料:https://zh-v2.d2l.ai/
[2] 李沐老师在B站的视频课程:https://www.bilibili.com/video/BV1MB4y1F7of?p=3

感知机模型与应用

(1)定义
对于输入变量x、权重参数w以及偏移量b,感知机的输出可表示为:
o=\sigma(+b)

(2)训练感知机

在这里插入图片描述

该方法等同于批量大小为1的梯度下降过程,对应的损失函数表达式为:
$l(y,x

全部评论 (0)

还没有任何评论哟~