基于情感信息辅助的多模态情绪识别

摘要：

不同于纯文本的情绪分析,本文面向多模态数据(文本和语音)进行情绪识别研究.为了同时考虑多模态数据特征,提出一种新颖的联合学习框架,将多模态情绪分类作为主任务,多模态情感分类作为辅助任务,通过情感信息来辅助提升情绪识别任务的性能.首先,通过私有网络层对主任务中的文本和语音模态信息分别进行编码,以学习单个模态内部的情绪独立特征表示.接着,通过辅助任务中的共享网络层来获取主任务的辅助情绪表示以及辅助任务的单模态完整情感表示.在得到主任务的文本和语音辅助情绪表示之后,分别与主任务中的单模态独立特征表示相结合,得到主任务中单模态情绪信息的完整表示.最后,通过自注意力机制捕捉每个任务上的多模态交互特征,得到最终的多模态情绪表示和情感表示.实验结果表明,本文方法在多模态情感分析数据集上可以通过情感辅助信息大幅度地提升情绪分类任务的性能,同时情感分类任务的性能也得到一定程度的提升.

关键词：多模态、情绪识别、联合学习、情感分析

所属期刊栏目：56

资助基金：国家自然科学基金61331011,61375073

在线出版日期：2020-05-14（万方平台首次上网日期，不代表论文的发表时间）

页数：共7页

页码：75-81