机器学习系列手记（七）：L1正则化及其在优化中的应用

优化算法

L1正则化与稀疏性

稀疏特性本质上讲就是大量参数取零值的状态。
这一特性类似于从成千上万甚至上百万维度的数据中筛选出关键特征。
从而保留那些对模型性能影响较大的特征。
提升模型的一般化能力的同时有助于减少过度拟合的可能性。
在这些情况下稀疏特性就显得尤为重要。
下面我们将深入探讨L1正则化如何使模型参数产生稀疏特性原理。