深度学习模型鲁棒性研究综述

摘要：

在大数据时代下,深度学习理论和技术取得的突破性进展,为人工智能提供了数据和算法层面的强有力支撑,同时促进了深度学习的规模化和产业化发展.然而,尽管深度学习模型在现实应用中有着出色的表现,但其本身仍然面临着诸多的安全威胁.为了构建安全可靠的深度学习系统,消除深度学习模型在实际部署应用中的潜在安全风险,深度学习模型鲁棒性分析问题吸引了学术界和工业界的广泛关注,一大批学者分别从精确和近似的角度对深度学习模型鲁棒性问题进行了深入的研究,并且提出了一系列的模型鲁棒性量化分析方法.在本综述中,我们回顾了深度学习模型鲁棒性分析问题当前所面临的挑战,并对现有的研究工作进行了系统的总结和科学的归纳,同时明确了当前研究的优势和不足,最后探讨了深度学习模型鲁棒性研究以及未来潜在的研究方向.

关键词：深度学习;对抗样本;鲁棒性分析;人工智能安全

所属期刊栏目：45

分类号：TP18(自动化基础理论)

资助基金：浙江省自然科学基金杰出青年项目;国家重点研发计划;国家自然科学基金;国家自然科学基金;国家自然科学基金;中央高校基本科研业务费专项

在线出版日期：2022-01-21（万方平台首次上网日期，不代表论文的发表时间）

页数：共17页

页码：190-206