基于双重混沌映射算法的深度学习模型梯度安全保护研究

摘要：

在联邦学习任务中,不同用户会上传深度学习模型的梯度到中央服务器进行梯度聚合,然而直接上传模型的原始梯度并不安全,攻击者会利用梯度攻击方法还原出用户的输入数据.当前,基于安全多方计算(SMPC)、差分隐私(DP)和同态加密(HE)来保护梯度安全的方法,存在通信开销较大、精度损失严重和加解密时延开销过大等主要问题.本文提出一种基于双重混沌映射算法的深度学习模型梯度安全保护方法,通过交换深度学习模型梯度的位置能够有效地防止恶意攻击者通过梯度攻击来偷窥用户个人隐私.为了降低时延开销,本文将深度学习模型层的映射问题转化为0-1整数背包问题,并利用动态规划求解出最优的保护方案.在CIFAR-10、CIFAR-100、LFW以及ImageNet数据集上的实验结果表明,本文所提方法能够防御当前最有效的两种梯度攻击,保护了深度学习模型梯度的安全性.此外,在CPU、GPU以及3款手机芯片上的实验结果表明,所提方法运行效率极高仅需要毫秒级就能完成安全保护.

关键词：深度学习、梯度安全、混沌映射、整数背包、动态规划

所属期刊栏目：32

分类号：TP391;R318;TN918.1

资助基金：国家重点研发计划;国家自然科学基金;国家自然科学基金;国家自然科学基金

在线出版日期：2023-02-13（万方平台首次上网日期，不代表论文的发表时间）

页数：共13页

页码：991-1003