恭喜北京有竹居网络技术有限公司曾妍获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜北京有竹居网络技术有限公司申请的专利多语言多模态预训练模型的训练方法、装置及电子设备获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN114970721B 。
龙图腾网通过国家知识产权局官网在2025-04-01发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210589947.5,技术领域涉及:G06F18/214;该发明授权多语言多模态预训练模型的训练方法、装置及电子设备是由曾妍;周王春澍;罗傲;张新松设计研发完成,并于2022-05-26向国家知识产权局提交的专利申请。
本多语言多模态预训练模型的训练方法、装置及电子设备在说明书摘要公布了:本公开涉及一种多语言多模态预训练模型的训练方法、装置及电子设备,尤其涉及机器学习技术领域。该方法包括:获取配对样本集,配对样本集中包括:图像与目标文本的图文配对数据,以及第一语言文本与第二语言文本的平行配对数据;将配对样本集,基于统一多语言多模态模型框架进行预训练,以得到多语言多模态预训练模型;其中,目标文本为任意语言类型,第一语言文本与第二语言文本的语言类型不同。
本发明授权多语言多模态预训练模型的训练方法、装置及电子设备在权利要求书中公布了:1.一种多语言多模态预训练模型的训练方法,其特征在于,包括:获取配对样本集,所述配对样本集中包括:图像与目标文本的图文配对数据,以及第一语言文本与第二语言文本的平行配对数据;将所述配对样本集,基于统一多语言多模态模型框架,利用预设方式进行预训练,以得到多语言多模态预训练模型;所述预设方式包括:对目标配对数据进行编码,得到第一编码信息和第二编码信息,所述目标配对数据包括所述图文配对数据或所述平行配对数据;将所述第一编码信息和所述第二编码信息输入N层特征融合模型,N为大于或等于1的整数;将所述N层特征融合模型的第一输出结果输入线性层进行处理,得到第一处理结果,基于所述第一处理结果和第一损失函数,确定第一损失参数;基于所述第一损失参数,更新所述统一多语言多模态模型框架的模型参数;其中,所述目标文本为任意语言类型,所述第一语言文本与所述第二语言文本的语言类型不同。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京有竹居网络技术有限公司,其通讯地址为:101299 北京市平谷区林荫北街13号信息大厦802室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。