非自回归Transformer：更快生成，但质量有损？

非自回归Transformer（Non-Autoregressive Transformer）是一种基于Transformer结构的生成模型，与传统的自回归生成模型（如循环神经网络和自回归Transformer）不同，它可以同时预测多个输出标记，而不是一个一个地生成。这种模型可以提高生成速度，但通常会牺牲一定的生成质量。非自回归Transformer通常使用掩码和条件生成技术来实现多标记预测，其中掩码用于在每个时间步中隐藏已经预测出的标记，条件生成则利用之前预测出的标记来指导下一步的生成。