龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：大湾区大学(筹)
摘要：本申请涉及人工智能技术领域，公开了多模态视听问题的答案预测方法、电子设备及介质，其方法包括：获取视听视频和问题文本；将所述视听视频和所述问题文本送入多模态集成网络，获取所述多模态集成网络输出的视听问题的预测答案；其中，所述多模态集成网络是基于训练集中的视听视频样本、问题文本样本、融合文本特征与基础视觉特征的对比损失、融合文本特征与基础听觉特征的对比损失和所述基础视觉特征与所述基础听觉特征的对比损失，通过优化得到的。本申请至少具有以下有益效果：增强了网络的泛化能力，适应多样化的问题类型。
主权项：1.一种多模态视听问题的答案预测方法，其特征在于，包括以下步骤：获取视听视频和问题文本；将所述视听视频和所述问题文本送入多模态集成网络，获取所述多模态集成网络输出的视听问题的预测答案；其中，所述多模态集成网络是基于训练集中的视听视频样本、问题文本样本、融合文本特征与基础视觉特征的对比损失、所述融合文本特征与基础听觉特征的对比损失和所述基础视觉特征与所述基础听觉特征的对比损失，通过优化得到的；所述多模态集成网络的优化方法，包括：获取所述视听视频样本和所述问题文本样本；通过视频编码器、音频编码器及文本编码器提取所述视听视频样本中的视频、音频和所述问题文本样本的特征，得到所述基础视觉特征、所述基础听觉特征及基础文本特征；基于所述基础视觉特征、所述基础听觉特征及所述基础文本特征得到融合文本特征；通过蒸馏学习方法计算所述融合文本特征与所述基础视觉特征、所述基础听觉特征的第一对比损失和第二对比损失；通过蒸馏学习方法计算所述基础视觉特征与所述基础听觉特征的第三对比损失；计算所述预测答案与真实答案之间的第四对比损失；基于所述第一对比损失、所述第二对比损失、所述第三对比损失与所述第四对比损失，优化所述多模态集成网络的参数。
全文数据：
权利要求：
百度查询： 大湾区大学(筹) 多模态视听问题的答案预测方法、电子设备及介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号