统计学习方法包括多种技术

• 统计学习的途径：
  • 有标签数据的学习方式
  • 无标签数据的学习方式
  • 部分标签数据的学习方式
  • 基于奖励机制的学习方式

第一章 统计学习方法概论

1.2监督学习

• 监督学习的核心目标在于构建一种模型，使其能够针对任意输入数据，生成与之对应的准确输出预测结果。
  • 其主要目的在于掌握输入与输出之间的对应关系，并通过模型来表达这一映射过程。

1.2.2问题的形式化

监督学习包含两个阶段，即学习阶段与预测阶段。

1.3统计学习三要素

• 技术途径由模型架构、实施策略及计算算法三部分构成

1.3.1模型

模型的核心在于对条件概率分布或决策分布进行学习与构建。

1.3.2策略

• 通过引入一个损失函数或代价函数以量化预测偏差的程度

  • 损失函数

    • 0-1损失函数
    • 平方损失函数
    • 绝对值损失函数
    • 对数损失函数

  • 模型f（X）在训练数据集上的平均损失被定义为经验风险或经验损失

  • 期望风险指的是模型在联合分布下的平均损失，而经验风险则是模型在训练样本集上的平均损失

  • 监督学习的两大核心策略包括：经验风险最小化与结构风险最小化

  • 经验风险最小化策略认为，使经验风险达