基于主动学习和持续学习的同义词挖掘模型

• 全文链接
• 请求原文

作   者：

潘桢皓;  关东海;  袁伟伟;  郭然; 

作者机构：

广州大学物理与材料科学学院;  南京航空航天大学计算机科学与技术学院; 

关键词：

余弦相似度;  主动学习;  BERT;  同义词挖掘;  持续学习; 

期刊名称：

计算机应用

i s s n：

1001-9081

年卷期：

2024 年 44 卷 0S1 期

页   码：

18-23

摘   要：

要提升同义词挖掘的效果通常需要现成的相关领域同义词库的支持。由于相关领域同义词库极其稀缺，给模型优化带来了阻碍。针对缺少相关领域同义词库而导致模型在相关领域的同义词挖掘效果难以持续提升的问题，提出了基于主动学习和持续学习的同义词挖掘模型（SYN-AC）。首先，基于主动学习的方法获取专家标记数据，设计了一个新的损失函数并利用标记后的数据去微调模型；其次，为了减少时间和空间消耗，采用了持续学习的方法，使模型在只使用当前组标记的数据进行训练的情况下，也能不断提高同义词挖掘效果，而不需要每次都使用所有标记数据对模型重新微调。使用了3个数据集模拟专家标记的过程，实验结果表明，在其中2个数据集上比效果最好的BERT(Bidirectional Encoder Representations from Transformers)模型F1值分别提升了9.34个百分点和2.75个百分点。验证了SYN-AC能够有效提高同义词挖掘的效果。