吴恩达学习笔记——训练集/验证集, 方差/偏差

在机器学习或深度学习领域，模型训练过程中需综合考量训练阶段、评估环节以及模型对新数据集的适应能力。为实现这一目标，需要针对所提供的数据采用适当的数据集划分方法。

训练/验证/测试

在实际操作过程中，我们通常依据数据量的比例将数据集划分为三个部分，即训练集、验证集以及测试集，有时则仅划分为训练集与测试集。这三个部分各自承担的功能如下：

训练集

通常所占比例较高，主要用于模型的训练过程

验证集

用于判断何种模型表现更为优越的标准

测试集

评估模型在新型数据集上的性能表现水平

数据集切分方式

在数据规模相对有限的情况下：
若数据总量为100、1000或10000，通常采用6:2:2或7:3的比例进行划分，这种划分方式经过多次实验验证，被认为是最为合理的分配方案。
随着大数据时代的到来，数据总量普遍显著增加：
当数据量达到10万、100万或1000万时，训练集所占比例通常会被提高至较高水平，例如99.5:0.25:0.25或99.5:0.4:0.1。尽管验证集与测试集各自所占比例仅为0.25或0.1，但由于整体数据