融合对抗训练与ERNIE的短文本情感分析模型

• 全文链接
• 请求原文

作   者：

刘婷;  杜奕;  曹晓夏;  侯淏文; 

作者机构：

上海第二工业大学计算机与信息工程学院; 

关键词：

对抗训练;  深度学习;  短文本情感分析;  文本分类; 

期刊名称：

上海第二工业大学学报

i s s n：

1001-4543

年卷期：

2024 年 41 卷 001 期

页   码：

79-87

摘   要：

使用深度学习技术进行文本情感分类是近年来自然语言处理领域的研究热点,好的文本表示是提升深度学习模型分类性能的关键因素.由于短文本蕴含情感信息较少、训练时易受噪声干扰,因此提出一种融合对抗训练的文本情感分析模型PERNIE_RCNN.该模型使用ERNIE预训练模型对输入文本进行向量化,初步提取文本的情感特征.随后在ERNIE预训练模型的输出向量上添加噪声扰动,对原始样本进行对抗攻击生成对抗样本,并将生成的对抗样本送入分类模型进行对抗训练,提高模型面临噪声攻击时的鲁棒性.实验结果表明,PERNIE_RCNN模型的文本分类性能更好,泛化能力更优.