Pytorch Bert MLP文本情感分类网络

imagination7357 10 0 py 2023-01-03 17:01:51

在Pyrotch上实现情感分类模型包含一个BERT模型和一个分类器MLP两者间有一个dropout层.BERT模型实现了预训练参数加载功能预训练的参数使用HuggingFace的bert base uncased模型.同时在代码中实现了基于预训练BERT模型的下游情感分类任务的fine tune包含了训练集上的训练测试集上测试评估性能等内容.情感分类的大致过程为首先将一个句子中的每个单词对应的词向量输入BERT得到句子的向量表征.然后将句向量经过dropout层再输入分类器最后输出二元分类预测.

用户评论
请输入评论内容
评分:
暂无评论