【论文阅读】MCANet: Medical Image Segmentation with Multi-Scale Cross-Axis Attention

摘要

链接：https://arxiv.org/abs/2312.08866
医学图像分割是医学图像处理和计算机视觉领域的关键挑战之一。由于病变区域或器官的大小和形状各异，有效地捕捉多尺度信息和建立像素间的长距离依赖性至关重要。本文提出了一种基于高效轴向注意力的多尺度交叉轴注意（MCA）方法来解决这些问题。MCA通过计算两个并行轴向注意力之间的双向交叉注意力，以更好地捕获全局信息。此外，为了处理病变区域或器官在个体大小和形状上的显著变化，我们还在每个轴向注意力路径中使用不同大小的条形卷积核进行多次卷积，以提高编码空间信息的效率。我们将提出的MCA构建在MSCAN主干上，形成名为MCANet的网络。我们的MCANet仅使用4M+个参数，在四个具有挑战性的任务上，包括皮肤病变分割、细胞核分割、腹部多器官分割和息肉分割，其性能优于大多数使用重型主干（如Swin Transformer）的先前工作。代码可在https://github.com/haoshao-nku/medical seg.git上获取。
关键词：医学图像分割、自注意力、交叉轴注意力、多尺度特征。

创新点总结

1. 提出了一种新的方法Multi-scale Cross-axis Attention (MCA)，用于处理医学图像分割任务。

2. MCA方法从两个方面改进了传统的轴向注意力机制，以适应医学图像的特点。首先，它利用条形形状卷积来引入多尺度特征，以更好地定位目标区域。其次，它建立了两个空间轴向注意力之间的双交叉注意力，以更好地利用多尺度特征并识别目标区域的模糊边界。
   

3. MCA方法在轻量级上有效，其解码器相对轻便。在表格I中，可以看到MCA方法的小型模型参数数量仅为0.14M，更适合实际应用场景。

4. MCA方法可以有效地编码全局上下文，同时考虑到病变区域或器官的各种大小和形状，但仍需进一步探索如何更有效地处理这些特点。
   

实现效果

在医学图像分割中，MCANet通过引入多尺度交叉轴注意力机制，显著提高了分割的准确性和鲁棒性。相较于传统的轴向注意力机制，MCANet更加关注不同尺度下病变区域或器官的形状和大小特性，从而更精确地定位目标区域。

首先，MCANet通过条形卷积来整合多尺度特征，以适应不同大小和形状的病变区域或器官。这有助于提高模型对目标区域的定位精度。

其次，MCANet创新性地构建了双交叉注意力机制，将水平与垂直轴向注意力进行交叉连接。这种设计能够更好地利用多尺度信息，增强模型对全局上下文的感知能力，从而更准确地分割医学图像。

在DSB2018数据集上的实验结果表明，MCANet在医学图像分割任务中取得了显著的性能提升。该方法有效解决了传统轴向注意力机制在处理医学图像时遇到的问题，为医学图像分割领域的发展提供了新的思路和方法。

MCANet通过多尺度交叉轴注意力机制，在医学图像分割领域取得了优秀的性能表现。

总结

文章介绍了MCANet，这是一种用于医学图像分割的多尺度交叉轴注意力模型。该模型通过在两个空间维度上建立双向交叉注意力，利用方向信息来克服在医学图像分割任务中遇到的一些挑战。此外，文章还提到，将多尺度卷积特征与轴向注意力相结合，有助于解决在较小的医学图像数据集上实现长距离交互的挑战。

文章讨论了轴向注意力的优点和局限性。轴向注意力可以更有效地捕捉全局信息，降低计算复杂度。然而，对于大型的分割数据集，轴向注意力可以学习到位置偏见。在许多医学图像分割任务中，数据集相对较小，这使得实现长距离交互变得具有挑战性。因此，文章提出建立双向交叉注意力来更好地利用方向信息。

MCANet是一种有效的医学图像分割模型，通过结合多尺度卷积特征和双向交叉注意力，克服了在处理小型医学图像数据集时遇到的一些挑战。该模型具有广泛的应用前景，可以为各种医学图像分割任务提供解决方案。此外，文章还提到MCANet的一些潜在应用领域，例如用于3D医学图像分割或用于解决其他图像分割问题。