文本分类中基于CHI和PCA混合特征的降维方法

• 全文链接
• 请求原文

作   者：

唐加山;  段丹丹; 

作者机构：

南京邮电大学理学院; 

关键词：

混合特征降维方法(CHI-PCA);  卡方统计(CHI)方法;  主成分分析(PCA);  中文文本分类;  特征降维; 

期刊名称：

重庆邮电大学学报(自然科学版)

i s s n：

1673-825X

年卷期：

2022 年 34 卷 001 期

页   码：

164-171

摘   要：

中文文本数据的半结构化甚至非结构化的特点使得其分类存在着特征高维的问题,传统单一的特征降维方法难以满足大数据时代的文本分类需求.基于此,提出了一种基于卡方统计(Chi-square statistics,CHI)和主成分分析(principal component analysis,PCA)的混合特征降维方法(CHI-PCA),该方法使用CHI方法初筛出类别相关的特征词,使用PCA方法对特征词空间进行二次降维,在特征降维的同时仍保留了原始特征空间最多的特征信息.通过与文档频率(document frequency,DF)、信息增益(information gain,IG)、CHI和PCA这4种传统特征降维方法的实验对比,结果表明,在不同特征维度下,所提方法在Softmax回归、支持向量机(support vector machines,SVM)分类以及KNN分类器下的整体分类效果均优于对比方法,F1宏平均值最高提升了2.7%,在每个类别上的分类性能也是可观的,这说明基于CHI-PCA的2阶段特征降维方法是可行的,在特征降维的同时,还提高了分类性能.