NAS: Reinforcement Learning for Neural Architecture Search (R-LNAS) - NASS with RL - 2017 (笔记)

Neural Architecture Search With Reinforcement Learning—2017

利用强化学习实现神经网络架构搜索

摘要

本文通过循环神经网络架构来构建神经网络模型，并采用强化学习算法对RNN进行训练；以最大化在验证集上生成的网络结构准确度为目标。

引言

深度网络的发展历程能够体现出从特征设计到架构设计的演进过程。具体而言，在此过程中我们能够体现出以下几点：基于SIFT特征（Lowe于1999年提出），随后是HOG特征（Dalal和Triggs于2005年提出），再发展出AlexNet架构（Krizhevsky团队于2012年提出），随后是VGGNet结构的设计（Simonyan与Zisserman于2014年完成）。此外，在这一过程中还出现了GoogleNet的设计思想出现于2015年以及ResNet架构首次提出是在He等人的研究中。

神经网络的结构和连接一般可以通过动态长度的字符串进行表示或描述，并且循环网络'控制器'能够产生这类字符串

在训练该