买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京京东尚科信息技术有限公司申请的专利多模态预训练方法和装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN113780194B 。

龙图腾网通过国家知识产权局官网在2026-03-20发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202111078728.2，技术领域涉及：G06N3/0895；该发明授权多模态预训练方法和装置是由李业豪;潘滢炜;姚霆;梅涛设计研发完成，并于2021-09-15向国家知识产权局提交的专利申请。

本多模态预训练方法和装置在说明书摘要公布了：本公开提供一种多模态预训练方法和装置。多模态预训练方法包括：对视频‑文本对中的视频采样得到第一视频帧序列；对视频‑文本对中的文本进行分词处理得到第一分词序列；对第一视频帧序列进行掩码处理得到第二视频帧序列；对第一分词序列进行掩码处理得到第二分词序列；对第一视频帧序列进行编码得到第一视频特征，对第一分词序列进行编码得到第一分词特征；对第二视频帧序列进行编码得到第二视频特征，对第二分词序列进行编码得到第二分词特征；利用第一视频特征、第一分词特征、第二视频特征、第二分词特征确定预训练的目标函数；利用目标函数进行多模态预训练。

本发明授权多模态预训练方法和装置在权利要求书中公布了：1.一种多模态预训练方法，包括： 对视频-文本对中的视频进行采样，以得到第一视频帧序列； 对所述视频-文本对中的文本进行分词处理，以得到第一分词序列； 对所述第一视频帧序列进行随机掩码处理，以得到第二视频帧序列； 对所述第一分词序列进行随机掩码处理，以得到第二分词序列； 对所述第一视频帧序列进行编码，以得到第一视频特征，对所述第一分词序列进行编码，以得到第一分词特征； 对所述第二视频帧序列进行编码，以得到第二视频特征，对所述第二分词序列进行编码，以得到第二分词特征； 利用所述第一视频特征、所述第一分词特征、所述第二视频特征和所述第二分词特征，基于跨模态匹配损失和模态内去噪损失确定预训练的目标函数； 利用所述预训练的目标函数进行多模态预训练； 其中，确定预训练的目标函数包括： 利用所述第一分词特征、所述第二视频特征和预设的第一负样本特征确定第一对比损失值； 利用所述第一视频特征、所述第二分词特征和预设的第二负样本特征确定第二对比损失值； 根据所述第一对比损失值和所述第二对比损失值确定第一目标； 利用所述第一视频特征、所述第二视频特征和所述第二负样本特征确定第三对比损失值； 利用所述第一分词特征、所述第二分词特征和所述第一负样本特征确定第四对比损失值； 根据所述第三对比损失值和所述第四对比损失值确定第二目标； 根据所述第一目标和所述第二目标确定所述目标函数。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京京东尚科信息技术有限公司，其通讯地址为：100086 北京市海淀区知春路76号8层；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。