基于GAN的联邦学习成员推理攻击与防御方法

• 全文链接
• 请求原文

作   者：

张佳乐;  朱诚诚;  孙小兵;  陈兵; 

作者机构：

扬州大学信息工程学院;  南京航空航天大学计算机科学与技术学院; 

关键词：

成员推理攻击;  生成对抗网络;  隐私泄露;  联邦学习;  对抗样本; 

期刊名称：

通信学报

i s s n：

1000-436X

年卷期：

2023 年 44 卷 005 期

页   码：

193-205

摘   要：

针对联邦学习系统极易遭受由恶意参与方在预测阶段发起的成员推理攻击行为,以及现有的防御方法在隐私保护和模型损失之间难以达到平衡的问题,探索了联邦学习中的成员推理攻击及其防御方法.首先提出2 种基于生成对抗网络(GAN)的成员推理攻击方法:类级和用户级成员推理攻击,其中,类级成员推理攻击旨在泄露所有参与方的训练数据隐私,用户级成员推理攻击可以指定某一个特定的参与方;此外,进一步提出一种基于对抗样本的联邦学习成员推理防御方法(DefMIA),通过设计针对全局模型参数的对抗样本噪声添加方法,能够在保证联邦学习准确率的同时,有效防御成员推理攻击.实验结果表明,类级和用户级成员推理攻击可以在联邦学习中获得超过90%的攻击精度,而在使用DefMIA方法后,其攻击精度明显降低,接近于随机猜测(50%).