CBAM: 一种新型的卷积注意力模块，提升深度神经网络性能

Woo等人提出了一种新型的卷积注意力模块CBAM [18]，它可以自适应地指导神经网络模型将信息聚焦到哪里，从而提高深度神经网络的性能。CBAM是一种典型的注意力机制模块，包括通道注意模块（CAM）和空间注意模块（SAM）两个子模块，用于在通道和空间维度中执行输入特征的自适应滤波。首先，通道注意模块接收输入特性，并使用全局最大池和全局平均池计算张量全通道特征矩阵，得到两个矩阵。为了学习权重优化，这两个权重矩阵被放在同一个多层感知机中。然后将这两个输出组件加在一起形成通道加权模块。最后，将数据通过Sigmoid激活函数压缩到0到1之间，再乘以输入特性。具体实现可参考等式(1)及等式(2)。