Advertisement

机器学习中的分类算法:逻辑斯蒂回归

阅读量:

目录

一、分类与回归

二、逻辑回归不是回归

三、生成式逻辑回归

四、判别式逻辑回归

五、逻辑回归为什么不用均方误差做损失函数

六、判别模型与生成模型的比较

七、写在最后


一、分类与回归

回归与分类构成了机器学习的关键研究方向。从数据特征的角度来看,在监督学习中我们通常需要解决两类主要任务:一类是回归问题(regression),其目标是从输入样本中学习一个连续型的目标变量;另一类是分类问题(classification),其目标是从有限类别集合中选择合适的目标类别。从模型输出的角度来看,在回归任务中模型能够生成任意数值结果,在分类任务中则仅能输出预定义类别标签中的一个。理论上讲,在相同的输入空间范围内若样本点彼此接近,则它们对应的输出结果也会保持相似性;而在同一决策边界内分布的输入样本将被归类为同一类别。

举个例子:

涉及明天气温预测的是回归问题。归因于预测值可以取天气中任何可能的数值,并且这些数值都是连续的。

预测明天的天气是分类问题,它的预测值是阴、晴、雨等等,是离散的。

二、逻辑回归不是回归

逻辑回归,Logistic Regression,名为回归,实为分类算法。

逻辑回归的激活函数为:

![\LARGE fx=\frac{1}{1+e^{-\omega ^{T}x}}](https://cdl.

全部评论 (0)

还没有任何评论哟~