几何视角下深度神经网络的对抗攻击与可解释性研究进展

摘要：

随着深度神经网络在机器学习的各个领域获得广泛成功,其自身所存在的问题也日益尖锐和突出,例如可解释性差、鲁棒性弱和模型训练难度大等.这些问题严重影响了神经网络模型的安全性和易用性.因此,神经网络的可解释性受到了大量的关注,而利用模型可解释性改进和优化模型的性能也成为研究热点之一.在本文中,我们通过几何中流形的观点来理解深度神经网络的可解释性,在通过流形视角分析神经网络所遇到的问题的同时,汇总了数种有效的改进和优化策略并对其加以解释.最后,本文对深度神经网络流形解释目前存在的挑战加以分析,提出将来可能的发展方向,并对今后的工作进行了展望.

关键词：深度学习;对抗攻击;可解释性;流形

所属期刊栏目：51

资助基金：国家杰出青年科学基金;国家重点研发计划项目

在线出版日期：2021-11-08（万方平台首次上网日期，不代表论文的发表时间）

页数：共27页

页码：1411-1437