Advertisement

机器学习直观易懂的理解方式(第11点):模型的泛化能力

阅读量:

上一节我们了解到,在机器学习领域中我们面临的主要挑战是高方差问题。为了缓解这一问题的主要方法是提升模型泛化能力。具体而言,这是通过调节超参数的数量来实现的:一方面防止模型过于复杂导致过拟合现象;另一方面抑制模型因存在过大的方差误差而表现不佳的情况。

岭回归(Ridge Regression)

岭回归也是一种处理模型过拟合问题的方法。它通过引入模型正则化的手段来更好地解决这一线性问题的表现出来。

目标函数

基于基本数学知识,在拟合出模型时其上下抖动幅度主要取决于参数设置,在这里我们以多项式回归为例进行说明

在这里图片描述

在当前模型中所使用的阿尔法值实际上是我们特意引入的一个超参数。其核心作用就在于调节新构建的目标损失函数的整体规模。当α取值为0时,则等价于未对模型施加任何正则化约束;而当α趋向于无限大(无穷)时,则必须确保θ²尽可能小。

复制代码
    import numpy as 

全部评论 (0)

还没有任何评论哟~