Logistic Regression model (LR model)

LR模型

该模型假设数据服从伯努利分布，并通过最大化似然函数来估计参数。为了优化参数值，在实现对数据的分类目标过程中采用了梯度下降算法。值得注意的是，
逻辑回归本质上是线性回归，
但在其基础之上增加了sigmoid激活函数这一关键组件。
在线性组合后应用sigmoid激活函数，
从而将输出范围压缩到0至1之间。

特征重要性

每个特征都由一个对应的模型参数wi来表示，在这种情况下wi数值越大，则表明该特征对预测结果的影响更为显著；基于此理论基础我们定义该特征的重要性即为其对应的wi值大小；因此LR模型中用于衡量各特征重要性的指标即为各个wi值的大小比较

LR的损失函数

在逻辑回归中使用的损失函数通常被称为对数损失函数（Log Loss Function），有时也被认为是另一种形式的交叉熵损失函数。
同时，在统计学中，
我们也将这种用于评估模型性能的标准指标称为
了
似然函数（Likelihood Function）。

对数似然函数：

![在这里插入图片描述](https://cdl.itadn