机器学习算法优缺点和适用场景

文章目录

• 机器学习算法优劣分析及适用范围总结

  • • 1. 线性回归
    • • 1. Linear regression
      • 2. Ridge regression（岭回归）基于最小二差分正则化方法
      • 3. Lasso regression（套范数惩罚法）基于最小一差分正则化方法
• 2. LR: 逻辑回归模型
  • KNN: 最近邻分类器
  • 朴素贝叶斯算法
  • SVM: 支持向量机分类器
  • 决策树算法
  • RF: 随机森林算法
  • AdaBoost 算法
  • GBDT 算法
  • XGBoost 算法
  • K-Means 聚类分析方法
  • 层次聚类（层次聚类方法）
  • BIRCH 聚类算法
  • DBSCAN 聚类方法

机器学习算法优缺点及适用场景总结

1.线性回归

线性回归的主要目标在于获得输出变量Y与输入变量X之间的线性关联，并确定参数向量θ。其数学表达式为 Y = X\theta + \xi。
具体而言,Y是一个m乘以1维向量,X是一个m乘以n维矩阵,而参数向量θ则是一个n乘以1维向量。
其中,m表示训练数据集中样本的数量,n表示每个样本所包含的特征数量。

为了获取线性回归系数θ值, 我