BERT编码器输出向量的解释及语法修正

其中，〖et〗_k∈R^(d_model) 是经过BERT编码器编码后的隐藏层向量，与词嵌入向量 t_k 一一对应。d_model 表示隐藏层向量的维度，与词嵌入向量维度保持一致。max(0,x) 表示ReLU激活函数，W 和 b 表示线性映射层的权重和偏置。

原文地址: https://www.cveoy.top/t/topic/mHUV 著作权归作者所有。请勿转载和采集!