Transformer模型内容详细阐述

Transformer模型技术详述
能够有效应对长文本处理需求的Longformer模型，以及被视作Transformer“增强型”版本的BigBird模型，二者之间究竟存在哪些差异？

Transformer的其他多种变体（X-former）究竟具有怎样的结构特征，又在哪些新的应用场景中展现出价值？
鉴于Transformer模型的演进速度持续加快，几乎每天都有新的进展出现，即便只是短暂离开一段时间，再次回顾时也会发现已有诸多更新。
作为谷歌于2017年推出的自然语言处理领域的重要模型（例如BERT正是基于该架构），Transformer在业界产生了深远影响。
本文参考链接
https://mp.weixin.qq.com/s/btdnjKVVSuLZH15bXmihlw
论文链接： https://www.arxiv-vanity.com/papers/2009.06732
https://mp.weixin.qq.com/s/_th7rXfZDuSu2xo7gdPp0w
https://www.cnblogs.com/zhongzhao