CoAtNet: Co attentional convolution and attention across all data sizes

本研究对卷积神经网络与Transformer架构的特征进行了全面分析，并融合二者优势设计出一种新型的家族化网络结构——CoAtNet。在未引入额外数据的情况下，该模型的识别准确率可达到86%，而在JFT数据集的支持下，其表现进一步提升至89.77%。相较于CvT、BotNet以及Swin等现有模型，其整体性能具有明显优势。

谷歌仅用两天时间便相继推出两款核心网络架构，昨日为ViT-G，今日则为CoAtNet……

注：希望大家不要只收藏，也欢迎点赞并积极分享！

如需了解更多关于CVPR 2021的论文及开源项目，可点击以下链接：

CVPR2021-Papers-with-Code

CoAtNet

CoAtNet: Marrying Convolution and Attention for All Data Sizes

• 作者单位：谷歌大脑（Quoc V. Le等人）
  • 论文：https://arxiv.org/abs/2106.