基于隐私推断Non-IID联邦学习模型的后门攻击研究

摘要：

联邦学习安全与隐私在现实场景中受数据异构性的影响很大,为了研究隐私推断攻击、后门攻击与数据异构性的相互作用机理,提出一种基于隐私推断的高隐蔽后门攻击方案.首先基于生成对抗网络进行客户端的多样化数据重建,生成用于改善攻击者本地数据分布的补充数据集;在此基础上,实现一种源类别定向的后门攻击策略,不仅允许使用隐蔽触发器控制后门是否生效,还允许攻击者任意指定后门针对的源类别数据.基于MNIST、CIFAR 10 和YouTube Aligned Face三个公开数据集的仿真实验表明,所提方案在数据非独立同分布的联邦学习场景下有着较高的攻击成功率和隐蔽性.

关键词：联邦学习、非独立同分布数据、后门攻击、隐私推断攻击

所属期刊栏目：7

分类号：TP309;TP181;TP393(计算技术、计算机技术)

资助基金：国防基础科研项目;上海市科委科技创新行动计划;上海市科委科技创新行动计划

在线出版日期：2023-11-02（万方平台首次上网日期，不代表论文的发表时间）

页数：共5页

页码：167-171