机器学习偏差和方差

数学解释

偏差度： 偏差指的是预测值（估计量）与其真实值之间的差异期望。当偏差度越大时，则表明预测结果与实际数据存在更大的偏离程度。

方差： 表示预测值变化范围的一种指标，在统计学中用于度量数据集的离散程度或变异性。即反映数据与其平均值偏离的程度。数值越大表示数据越分散，请参考下图右列所示

**
**

机器学习中的偏差和方差

首先，请假设你了解了训练数据与测试数据之间的关系。简单来说，在学习过程中，在训练集合中构建一个模型，并将其应用到测试集合上以评估其性能的标准是基于对测验集合误差率的分析。然而，在许多情况下我们只能假定这两个集合来自同一分布，并且无法获取真实的测验数据来源。这时候的问题是如何仅凭对测验集合上的表现来推断出对测验源的表现？

因为提供的训练样本数量极少（甚至不够充分），因此基于这些数据所建立起来的模型难以准确反映总体的真实特征。（即便这些