机器学习中的分类算法:逻辑斯蒂回归
发布时间
阅读量:
阅读量
目录
一、分类与回归
二、逻辑回归不是回归
三、生成式逻辑回归
四、判别式逻辑回归
五、逻辑回归为什么不用均方误差做损失函数
六、判别模型与生成模型的比较
七、写在最后
一、分类与回归
回归与分类构成了机器学习的关键研究方向。从数据特征的角度来看,在监督学习中我们通常需要解决两类主要任务:一类是回归问题(regression),其目标是从输入样本中学习一个连续型的目标变量;另一类是分类问题(classification),其目标是从有限类别集合中选择合适的目标类别。从模型输出的角度来看,在回归任务中模型能够生成任意数值结果,在分类任务中则仅能输出预定义类别标签中的一个。理论上讲,在相同的输入空间范围内若样本点彼此接近,则它们对应的输出结果也会保持相似性;而在同一决策边界内分布的输入样本将被归类为同一类别。
举个例子:
涉及明天气温预测的是回归问题。归因于预测值可以取天气中任何可能的数值,并且这些数值都是连续的。
预测明天的天气是分类问题,它的预测值是阴、晴、雨等等,是离散的。
二、逻辑回归不是回归
逻辑回归,Logistic Regression,名为回归,实为分类算法。
逻辑回归的激活函数为:

还没有任何评论哟~
