针对人脸检测对抗攻击风险的安全测评方法

摘要：

人脸检测是计算机视觉领域的一个经典问题,其在人工智能大数据驱动的赋能下焕发出崭新生机,在刷脸支付、身份认证、摄像美颜、智能安防等领域均体现出重要的应用价值与广阔的应用前景.然而,随着人脸检测部署应用进程的全面加速,其安全风险与隐患也日益凸显.因此,文中分析总结了现行人脸检测模型在全生命周期的各阶段所面临的安全风险,其中对抗攻击因对人脸检测的可用性和可靠性构成严重威胁,并可能使人脸检测模块丧失基本功能性而受到了广泛关注.目前,面向人脸检测的对抗攻击算法主要集中于白盒攻击.但是,由于白盒对抗攻击需要充分理解特定人脸检测模型的内部结构和全部参数,而出于对保护商业机密和企业利益的考虑,现实物理世界中商业部署的人脸检测模型的结构与参数通常是不可访问的,这使得使用白盒攻击方法在现实世界中攻破商业人脸检测模型几乎不可能.针对上述问题,提出了一种面向人脸检测的黑盒物理域对抗攻击方法.通过集成学习的思想,提取众多人脸检测模型的公共注意力热力图,并针对获取到的公共注意力热力图发起攻击.实验结果表明,该方法能够成功逃逸部署于移动终端的黑盒人脸检测模型,包括移动终端自带相机软件、刷脸支付软件、美颜相机软件的人脸检测模块.这说明所提出的方法对评测人脸检测模型的安全性能够提供有益帮助.

关键词：人工智能安全;对抗攻击;人脸检测

所属期刊栏目：48

分类号：TP183(自动化基础理论)

资助基金：国家 242 信息安全计划2018Q39

在线出版日期：2021-08-19（万方平台首次上网日期，不代表论文的发表时间）

页数：共8页

页码：17-24