Reading papers on Recurrent Models of Visual Attention

原文地址 https://arxiv.org/abs/1406.6247

1 background and motivation

近年来，在计算机视觉领域的神经网络取得了显著的进步。然而当前的硬件设备设置对输入图像的最大尺寸有所限制。这是针对2014年的一篇研究论文。即便是在当前时代背景下，在处理过大的图像时仍会产生高昂的时间和计算成本。本文的目的就在于缓解上述计算资源的需求。

基于人类认知领域的分析表明，在观察图片时人们通常遵循一定的查看顺序例如在观察人像时通常是从上到下进行分析。这种专注特定区域的行为与现代注意力机制的理念一致然而本文提出了一种新的注意力机制其本质上与当前的方法相似为了避免混淆我们建议将其命名为'glimpse'以便更好地区分两者

通过收集一定数量的glimpse来模拟人类对图像的理解过程，并避免了对每个像素进行计算；从而使得模型在处理不同尺寸图像时无需额外调整。这也是本文的主要贡献。（也就是说，在处理任意一张图片时，我们采用固定的抽样数量来提取局部特征，并基于这些特征进行判断。）显然，在这一过程中筛选出高质量且具有判别性的样本至关重要；因此，在数据预