逻辑回归模型和Python代码实现

概述

logistic回归是一种广义线性回归（generalized linear model），因此与多重线性回归分析有很多相同之处。它们的模型形式基本上相同，都具有 w‘x+b，其中w和b是待求参数，其区别在于他们的因变量不同，多重线性回归直接将w‘x+b作为因变量，即y =w‘x+b，而logistic回归则通过函数L将w‘x+b对应一个隐状态p，p =L(w‘x+b),然后根据p 与1-p的大小决定因变量的值。如果L是logistic函数，就是logistic回归，如果L是多项式函数就是多项式回归。
logistic回归的因变量可以是二分类的，也可以是多分类的，但是二分类的更为常用，也更加容易解释，多类可以使用softmax方法进行处理。实际中最为常用的就是二分类的logistic回归。
Logistic回归模型的适用条件

• 1 被分析的结果变量属于类别型数据的一种（包括二元分类情况），并且具有数值属性特征。值得注意的是，在Logistic回归模型中不适用重复计数现象指标。
• 2 模型中的残差以及因分析结果所属的数据类别均遵循二项分布规律。由于这种类型的分布对应于类别数据而非连续型数据，在参数估计时应当采用最大似然法而非最小二乘法。
• 3 自变量子集与Logistic转换后的概率值呈线性关联关系
• 4 在建立模型时需假设各个观察体之间保持独立性假设