逻辑回归（梯度上升-交叉验证）的Python实现

目录

• 1. 引言
  • 2. 算法达成方式
  • 3. 程序代码
  • 4. 实验数据呈现

研究背景与问题提出

logistic回归，亦称logistic回归分析，属于一种广义线性回归模型，广泛应用于数据挖掘、疾病自动诊断以及经济预测等多个领域。例如，在研究导致疾病的相关危险因素时，可以通过该方法对疾病发生概率进行预测。

以胃癌病情的分析为例，可以选取两组人群作为研究对象：一组为胃癌患者，另一组为非胃癌人群。这两组人群在体征特征与生活方式等方面必然存在差异。因此，因变量设定为是否患有胃癌，其取值可划分为“是”或“否”，而自变量则包含诸多因素，如年龄、性别、饮食习惯以及幽门螺杆菌感染状况等。这些自变量既可以是连续型变量，也可以是分类型变量。通过logistic回归分析后，可以计算出自变量对应的权重系数，从而初步判断哪些因素可能成为胃癌的危险因素。此外，依据这些权重系数还能够进一步评估个体罹患癌症的风险概率。

2. 算法实现

分别运用标准化、Log以及Binary三种预处理方式，执行以下步骤：
1、完成数据的预处理工作；
2、利用梯度上升法对参数权重进行训练，并通过十折交叉验证方法确定规格化强度参数；
3、对分类错误的数据进行识别，并统计错误率。

程序中主要完成了以下函数的实现：

|函数|说明|
|--