Swin transformer 的窗口注意力机制

Swin Transformer 的窗口注意力机制指的是，在进行注意力计算时，只对与当前位置在一定范围内的位置进行注意力计算，而不是对所有位置进行计算。这个范围的大小由一个称为窗口大小的超参数控制，可以通过调整窗口大小来平衡模型的计算效率和注意力的覆盖范围。

具体来说，Swin Transformer 将输入图像划分为多个块（称为局部区域），每个局部区域包含一定数量的像素。在计算某个局部区域的注意力时，只考虑其周围一定范围内的局部区域，这个范围就是窗口大小。这样做的好处是可以减少注意力计算的复杂度，同时保证局部区域之间的信息交流。

在实现上，Swin Transformer 使用了一种叫做Shifted Window的方法来处理窗口边界的问题。具体来说，对于每个局部区域，将其周围的所有局部区域按照一定的方式进行偏移，使得窗口的边界刚好与局部区域的边界对齐。这样就可以保证每个局部区域的注意力计算只考虑了窗口内的局部区域。