Deformable DETR 中后一层 Decoder 的 Self-Attention 的 'v' 是由编码器输出和上一层 Decoder 的输出拼接而成的。具体来说,'v' 的输入是一个维度为 $(B,N,C)$ 的特征张量,其中 $B$ 表示 batch size,$N$ 表示序列长度,$C$ 表示特征通道数。该特征张量由编码器输出和上一层 Decoder 的输出在序列维度上拼接而成,即 'v' = ['v_enc'; 'v_dec-1'],其中 'v_enc' 表示编码器输出,'v_dec-1' 表示上一层 Decoder 的输出。

Deformable DETR 中后一层 Decoder 的 Self-Attention 的 V 输入详解

原文地址: https://www.cveoy.top/t/topic/mS0f 著作权归作者所有。请勿转载和采集!

免费AI点我,无需注册和登录