卷积神经网络的可解释性研究综述

摘要：

神经网络模型性能日益强大,被广泛应用于解决各类计算机相关任务,并表现出非常优秀的能力,但人类对神经网络模型的运行机制却并不完全理解.针对神经网络可解释性的研究进行了梳理和汇总,就模型可解释性研究的定义、必要性、分类、评估等方面进行了详细的讨论.从解释算法的关注点出发,提出一种神经网络可解释算法的新型分类方法,为理解神经网络提供一个全新的视角.根据提出的新型分类方法对当前卷积神经网络的可解释方法进行梳理,并对不同类别解释算法的特点进行分析和比较.同时,介绍了常见可解释算法的评估原则和评估方法.对可解释神经网络的研究方向与应用进行概述.就可解释神经网络面临的挑战进行阐述,并针对这些挑战给出可能的解决方向.

关键词：神经网络、可解释性、分类、深度学习

所属期刊栏目：35

分类号：TP18(自动化基础理论)

资助基金：科技部科技创新重大项目;国家自然科学基金

在线出版日期：2024-01-17（万方平台首次上网日期，不代表论文的发表时间）

页数：共26页

页码：159-184