Logistic Regression核心知识点分析

一、线性回归到广义线性回归

线性回归(Linear Regression)是通过称为线性回归方程的最小二乘法来实现一个或多个自变量与因变量之间关系建模的一种统计模型。这种统计方法将一个或多个称为回归系数的模型参数组成一个线性组合。由一个或多个称为回归系数的模型参数组成的线性组合用于建立响应变量与预测变量之间的关系模型，并通过结合其他函数扩展应用范围以大大拓展其解决问题的能力范围这一过程形成了广义线性回归的应用基础。根据所选择的不同联系函数产生了多种广义线性模型而常见的广义线性回归基于指数分布族包括高斯分布伯努利分布多项式分布泊松分布指数分布等多种类型。

其中当随机变量

根据服从高斯分布以及遵循伯努利型分布的情况，则分别对应于最小二乘回归与Logistic回归这两种模型方法。由此可见Logistic回归其实在某种程度上是广义线性回归分析的一个特例之一。

二、Logistic Regression的本质与核心

Logistic回归为概率型非线性回归模型，是研究二分类观察结果

![](https://ad.itadn.com/c/weblog/blog-img/ima