Unsupervised detection of brain abnormalities and segmentation using transformers

VQ-VAE与Transformer的效果显著！该方法采用了Performer模型，并展示了最佳性能，在性能上超越了许多现有的网络架构。

Self-supervised Brain Abnormality Identification and Partitioning using Transformer Models

作者单位：伦敦国王学院, 伦敦大学学院

论文下载链接：https://arxiv.org/abs/2102.11650

病理性脑部外观可能呈现出高度异质性，并因此难以被明确理解为一种典型的异常状态；这种异常状态并非由某些特定的病理特征所单独定义，而是由于整体结构与功能上的偏差所致

在医学成像领域中最为关键的任务是实现对各类异常现象的识别，在这一目标下建立能够反映正常人脑特征的模型显得尤为重要。这种模型需要具备将紧凑性与其复杂的长距离相互作用机制相结合的能力，在现有技术中相对而言Transformer架构展现了更大的应用潜力；然而其对数据量与计算资源的需求量较高这一局限性却阻碍了其更广泛的运用

在此处, 我们将矢量量化变分自编码器潜在表示与其