自动语音识别模型压缩算法综述

• 全文链接
• 请求原文

作   者：

时小虎;  袁宇平;  吕贵林;  常志勇;  邹元君; 

作者机构：

吉林大学计算机科学与技术学院;  长春中医药大学医药信息学院;  中国第一汽车集团有限公司研发总院智能网联开发院;  吉林大学生物与农业工程学院;  吉林大学大数据和网络管理中心; 

关键词：

参数共享;  知识蒸馏;  低秩分解;  网络剪枝;  模型压缩;  模型量化;  语音识别; 

期刊名称：

吉林大学学报(理学版)

i s s n：

1671-5489

年卷期：

2024 年 62 卷 001 期

页   码：

122-131

摘   要：

随着深度学习技术的发展,自动语音识别任务模型的参数数量越来越庞大,使得模型的计算开销、存储需求和功耗花费逐渐增加,难以在资源受限设备上部署.因此对基于深度学习的自动语音识别模型进行压缩,在降低模型大小的同时尽量保持原有性能具有重要价值.针对上述问题,全面综述了近年来该领域的主要工作,将其归纳为知识蒸馏、模型量化、低秩分解、网络剪枝、参数共享以及组合模型几类方法,并进行了系统综述,为模型在资源受限设备的部署提供可选的解决方案.