政务留言文本向量化方法比较：ROBERTA模型的优势

文本向量化层的主要作用是将政务留言文本转化为向量形式。虽然实现文本向量化的方法很多，但在第四章的实验中，我们发现将Word2vec、Glove、BERT和ROBERTA所提供的词向量分别输入分类模型时，基于ROBERTA词嵌入的模型在政务留言文本分类任务中表现最佳。因此，本章也会采用ROBERTA模型对政务留言文本进行向量化表示。