请列出语言模型参数的区别

N-Gram模型参数：N-Gram模型是基于前N个单词预测下一个单词的模型。N-Gram模型参数包括词汇表大小、N值、平滑方法等。

RNN模型参数：RNN模型是基于序列预测下一个单词的模型。RNN模型参数包括嵌入维度、隐藏层大小、激活函数、损失函数、学习率等。

Transformer模型参数：Transformer模型是基于注意力机制的模型，可以处理长序列。Transformer模型参数包括嵌入维度、头数、层数、学习率、dropout率等。

BERT模型参数：BERT模型是基于Transformer模型的预训练模型，用于生成词向量。BERT模型参数包括预训练模型、嵌入维度、层数、头数、学习率、dropout率等。