智能系统全生命周期安全测试理论与方法

摘要：

人工智能技术在公共、国防安全领域得到了广泛应用,然而智能系统的安全性面临极大挑战.如何有效、全面、深入地对智能系统进行安全测试成为解决当前智能系统安全问题的重要途径.近年来,国内外高度重视智能系统的安全性问题,开展了大量的安全测试理论方法研究并出台了大量相关政策文件.针对智能系统面临的安全问题,本文详细阐述了面向智能系统全生命周期的安全测试理论与方法.首先,本文说明了智能系统的特点、安全内涵及安全机理;接着,本文结合模型训练、模型推理、模型部署三个主要生命周期阶段,详细地阐述了智能系统面临的安全性挑战和测试理论方法;最后,本文从标准、平台等角度阐明了构建智能系统安全测试支撑体系的方式,分析了自动驾驶典型场景下的智能系统安全测试案例,并给出了未来展望.开展智能系统安全测试理论和方法体系的建设,可有效规避系统潜在风险和质量缺陷,是实现人工智能算法可解释、可信赖的基本路径,对于确保人工智能技术安全、可靠、可控具有重要意义.

关键词：人工智能、系统安全测试、全生命周期、内涵机理、可解释性、可信赖人工智能

所属期刊栏目：2

分类号：P237(摄影测量学与测绘遥感)

资助基金：科技创新新一代人工智能重大项目;国家自然科学基金;国家自然科学基金

在线出版日期：2023-11-28（万方平台首次上网日期，不代表论文的发表时间）

页数：共10页

页码：27-36