Automated Machine Learning
发布时间
阅读量：
阅读量
AutoML
什么是AutoML？
目前一个优秀的机器学习和深度学习模型，离不开这几个方面：
一、优秀的数据预处理；
二、合适的模型结构和功能；
三、优秀的训练策略和超参数；
四、合适的后处理操作；
五、严格的结果分析
自动化超参数搜索的方法有哪些？
目前自动化搜索主要包含网格搜索，随机搜索，基于模型的超参优化
网格搜索：
在面对较少数量的超参数时, 我们可以选择网格搜索法作为优化策略, 即为每个超参数确定一个大致的候选范围, 并逐一确定候选范围内的组合方案进行优化。如果条件允许的话, 在适当的机会重新执行网格搜索是有益的, 每次重复都需要根据上一步得到的结果来进一步缩小最优参数的选择范围。其主要缺点在于计算资源的需求随着超参数数量呈指数级增长。
随机搜索：
随机搜索作为一种替代方案用于替代网格搜索的方法
基于模型的超参优化：
不同于上述两种搜索策略的方法论特点而言，在本研究中我们提出了一种新的解决思路：将基于模型的超参数调优问题转化为优化问题。直观上可能会考虑是否构建一个可导模型，并随后采用梯度下降方法进行优化；然而，在大多数情况下，我们的超参数都是离散型变量，并因此带来了较高的计算成本
基于模型的搜索算法中最为常见的是贝叶斯超参优化方法。相比于网格 search 和随机 se
全部评论 (0)
还没有任何评论哟~