基于生成对抗网络的联邦学习深度影子防御方案

• 全文链接
• 请求原文

作   者：

周辉;  陈玉玲;  王学伟;  张洋文;  何建江; 

作者机构：

省部共建公共大数据国家重点实验室(贵州大学);  潍坊科技学院计算机学院; 

关键词：

生成对抗网络;  防御方案;  梯度反演;  联邦学习;  隐私保护; 

期刊名称：

计算机应用

i s s n：

1001-9081

年卷期：

2024 年 001 期

页   码：

223-232

摘   要：

联邦学习(FL)可以使用户在不直接上传原始数据的条件下完成多方数据共享和交互,有效降低隐私泄露风险.然而,现有的研究表明敌手仍可以通过共享的梯度信息重构出原始数据.为进一步保护联邦学习隐私,基于生成对抗网络(GAN)提出一种联邦学习深度影子防御方案.首先,通过生成对抗网络学习原始真实数据分布特征,并生成可替代的影子数据;然后,通过影子数据训练影子模型替代原始模型,敌手无法直接获取真实数据训练过的原始模型;最后,利用影子数据在影子模型中产生的影子梯度替代真实梯度,使敌手无法获取真实梯度.在CIFAR10和CIFAR100数据集上进行了实验:与添加噪声、梯度裁剪、梯度压缩、表征扰动和局部正则化稀疏化五种防御方案相比,在CIFAR10数据集上所提方案的均方误差(MSE)是对比方案的1.18~5.34倍,特征均方误差(FMSE)是对比方案的4.46~1.03*107倍,峰值信噪比(PSNR)是对比方案的49.9%~90.8%;在CIFAR100数据集上的MSE是对比方案的1.04~1.06倍,FMSE是对比方案的5.93~4.24*103倍,PSNR是对比方案的96.0%~97.6%.相较于深度影子防御方法,所提方案考虑了敌手的实际攻击能力和影子模型训练存在的问题,设计了威胁模型和影子模型生成算法,在理论分析和实验方面表现更好,而且能够在保证准确率的前提下有效降低联邦学习隐私泄露风险.