基于三维手部骨架数据的连续手语识别

摘要：

为有效地消除手语识别过程中背景、光照等干扰因素带来的视觉问题,采用低冗余的骨架数据表达手语信息,设计了一个端到端连续手语识别模型.首先,分别从帧内和帧间提取手型和轨迹特征,可以有效地降低原始样本的离散程度;其次,构建一系列并行的双路残差网络对手型和轨迹特征进行优化与融合,生成时空特征序列;最后,基于注意力机制的编码-解码网络实现时空特征序列到翻译文本的映射.使用Leap Motion收集建立了一个基于三维手部骨架数据的手语数据集LMSLR.实验结果表明,在LMSLR数据集和公共的CSL数据集上,该模型与大多数基于视频处理的模型相比具有较高的准确率和较小的计算量.

关键词：手语识别;骨架数据;残差网络;注意力机制

所属期刊栏目：33

分类号：TP391.41(计算技术、计算机技术)

资助基金：上海市自然科学基金19ZR1419200

在线出版日期：2022-01-04（万方平台首次上网日期，不代表论文的发表时间）

页数：共9页

页码：1899-1907