深度学习中的调参技巧或经验

调参本质上是一种trial-and-error的过程，除此之外并无更高效的路径可循。迅速尝试、及时修正构成了调参的核心要点。

目录

常见的调参技巧：

自动化调参策略：

---

---

这是一条非常有价值的链接，详细阐述了如何从基础阶段持续进行trial-and-error（实际上在此过程中并未遭遇明显错误）：

Using convolutional neural nets to detect facial keypoints tutorial

常用的调参经验：

1.预处理

对数据进行均值与标准差的归零处理即可满足需求，诸如PCA、白化等方法并不必要。毕竟CNN具备自主学习编码器的能力，是否采用PCA影响不大，网络本身会自行学习出相应特征。

2.shuffle

3.深入理解网络运作机制。例如在CNN中，卷积部分需要掌握sobel算子如何实现边界检测。

4.Dropout

该技术不仅有助于抑制过拟合现象，还可视为一种人力成本最低的集成