准确率达到89.77%！谷歌大脑提出CoAtNet, 结合了卷积和注意力机制；

对卷积神经网络与Transformer架构的特性进行了全面分析，并融合二者优势设计出一种新型家族化网络结构——CoAtNet。在未引入额外数据的情况下，该模型准确率可达86%，而在JFT数据集的支持下，准确率进一步提升至89.77%。其整体性能显著优于CvT、BotNet以及Swin等现有网络模型。

谷歌在短短两天内接连发布两项核心架构，昨日推出ViT-G，今日则发布了CoAtNet。

注：希望大家不仅收藏，也欢迎点赞与分享！

如需了解更多关于CVPR 2021的论文及开源项目，可点击以下链接：

CVPR2021-Papers-with-Code

CoAtNet

CoAtNet: Marrying Convolution and Attention for All Data Sizes

• 作者单位：谷歌大脑（Quoc V. Le等人）
  • 论文：https://arxiv.org/abs/2106.04803

近年来，Trans