买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
摘要:本发明是一种基于交叉注意力门控单元的多模态情感分析方法,属社交媒体分析技术领域。本发明方法提出了基于交叉注意力门控单元的多模态情感分析模型MAGM,通过交叉注意力模块获取图像与文本之间一致性和表达,捕获图像与文本相互关联的特征;通过门控单元模块,控制图像文本情感特征的融合;通过上下文特征与局部特征联合实现更可靠的情感预测。本发明为多模态情感分析提供了创新的方法,具有重要的实际应用价值,可以应用于社交媒体中网民评论情感分析。
主权项:1.一种基于交叉注意力门控单元的多模态情感分析方法,其特征在于,具体步骤如下:S1:使用预训练的BERT-base获取词向量,使用Bi-GRU获取文本特征;S2:使用ImageNet数据集上预训练的VGG16前卷积部分对图像局部特征,采用Resnet18去除顶部全连接层,提取图像上下文特征;S3:使用Bi-GRU提取的文本词级特征与VGG16提取的图像局部特征通过交叉注意力模块,获得文本引导的图像特征和图像引导的文本特征;S4:将文本与图像关联的特征通过门控单元模块进行多模态特征融合,门控单元模块促进图文对齐融合;针对图文未对齐情况,门控单元模块将抑制融合,保留原始特征;融合后的特征有效的保留图像与文本显著特征;S5:将Resnet18提取的上下文图像特征与Bi-GRU池化后的文本特征融合得到上下文的多模态特征;将上下文特征与局部特征联合,通过Softmax层预测最终情感。
全文数据:
权利要求:
百度查询: 江苏海洋大学 一种基于交叉注意力门控单元的多模态融合方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。