机器学习基础备忘录

本文侧重代码实现，不讨论原理。

文章目录

• • 距离计算
  • 模型选择
  • • 留出法
    • 交叉验证法
    • 留一法

• 性能评估

• • 均方差MSE

  • 标准误差RMSE

  • 平均绝对偏差MAE

  • 精度

  • 混淆矩阵

  • 接受者操作特征曲线

  • 协方差矩阵Cov

    • Sklearn线性模型

    • • 线性回归
      • 逻辑回归

    • Pytorch简介

    • • 偏导数计算
      • 多次求导
      • 非标量输出
      • 线性回归

    • SVM

    • • 基本原理
      • 重要公式
      • 代码实现
      • 指定核函数

    • 卷积神经网络

    • • 图像尺寸变化
      • 代码实例
      • 代码结果分析
      • 池化层

距离计算

欧氏距离:d(x,y)=\sqrt{\sum_{k=1}^{N}(x_k-y_k)^2}

曼哈顿距离:d(x,y)=\sum_{k=1}^N|x_k-y_k|

切比雪夫距离:d(x,y)=\max(|x_k-y_k|)

$余弦距离:cos\theta=\frac{x_1x_2+y_1y_