买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:中国人民解放军网络空间部队信息工程大学
摘要:本发明涉及信息安全技术领域,特别涉及一种基于多粒度一致性的多模态虚假信息识别方法及系统,收集多模态信息数据形成信息数据集,样本包括虚假数据和非虚假数据,设置对应标签0和1;采用BERT模型作为文本编码器,生成文本特征表示,同时使用ViT模型作为图像编码器,生成图像的视觉特征表示;融合了三种层级的一致性度量,引入基于多头交叉注意力机制的token‑level细粒度一致性、基于图注意力网络的phase‑level中粒度一致性和基于CLIP模型的global‑level粗粒度一致性。本发明考虑了不同层级的文本和图像之间的语义匹配,全面揭示了多模态信息的内在联系,提高了对虚假信息的识别准确度和效率。
主权项:1.一种基于多粒度一致性的多模态虚假信息识别方法,其特征在于,包含:收集多模态信息数据形成信息数据集,样本包括虚假数据和非虚假数据,设置对应标签0和1;采用BERT模型作为文本编码器,生成文本特征表示,同时使用ViT模型作为图像编码器,生成图像的视觉特征表示;引入基于多头交叉注意力机制的token-level细粒度一致性,生成该层级文本和视觉特征向量,并进行文本与图像的token-level一致性度量;引入基于图注意力网络的phase-level中粒度一致性,生成该层级文本和视觉特征向量,并进行文本与图像的phase-level一致性度量;引入基于CLIP模型的global-level粗粒度一致性,生成该层级文本和视觉特征向量,并进行文本与图像的global-level一致性度量;采用基于粒度的自适应注意力机制,为各层级一致性特征赋予权重,得到聚合特征向量;通过最小化交叉熵损失函数来优化模型;利用优化后的模型进行多模态虚假信息检测。
全文数据:
权利要求:
百度查询: 中国人民解放军网络空间部队信息工程大学 基于多粒度一致性的多模态虚假信息识别方法及系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。