结合注意力机制与特征融合的场景图生成模型
视觉场景理解不仅可以孤立地识别单个物体,还可以得到不同物体之间的相互作用关系.场景图可以获取所有的(主语-谓词-宾语)信息来描述图像内部的对象关系,在场景理解任务中应用广泛.然而,大部分已有的场景图生成模型结构复杂、推理速度慢、准确率低,不能在现实情况下直接使用.因此,在Factorizable Net的基础上提出了一种结合注意力机制与特征融合的场景图生成模型.首先把整个图片分解为若干个子图,每个子图包含多个对象及对象间的关系;然后在物体特征中融合其位置和形状信息,并利用注意力机制实现物体特征和子图特征之间的消息传递;最后根据物体特征和子图特征分别进行物体分类和物体间关系推断.实验结果表明,在多个视觉关系检测数据集上,该模型视觉关系检测的准确率为22.78％～25.41％,场景图生成的准确率为16.39％～22.75％,比Factorizable Net分别提升了1.2％和1.8％;并且利用一块GTX1080Ti显卡可以在0.6 s之内实现对一幅图像的物体和物体间的关系进行检测.实验数据充分说明,采用子图结构明显减少了需要进行关系推断的图像区域数量,利用特征融合方法和基于注意力机制的消息传递机制提升了深度特征的表现能力,可以更快速准确地预测对象及其关系,从而有效解决了传统的场景图生成模型时效性差、准确度低的难题.
场景图、视觉关系检测、注意力机制、消息传递、特征融合
47
TP391.4(计算技术、计算机技术)
国家自然科学基金项目61403265
2020-07-01（万方平台首次上网日期，不代表论文的发表时间）
共5页
133-137
