买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:北京有竹居网络技术有限公司
摘要:本公开涉及计算机处理技术领域,具体涉及跨模态表征的预训练、口语理解、装置及电子设备,该预训练方法包括获取第一样本语音及所述第一样本语音的样本文本;基于初始预训练模型中的连续整合发放模块,对第一样本语音进行语音处理,得到字符级别的语音表征;基于初始预训练模型中的文本模块,对字符级别的语音表征以及样本文本进行处理,以得到文本表征损失;根据文本表征损失更新初始预训练模型的参数,以确定目标预训练模型,其中,目标预训练模型中连续整合发放模块的输出为目标预训练模型的输出。由于目标预训练模型的输出来自于语音模态又融合了文本模态的相关知识,可以为下游的口语理解提供较为充足的信息。
主权项:1.一种跨模态表征的预训练方法,其特征在于,包括:获取第一样本语音及所述第一样本语音的样本文本;基于初始预训练模型中的连续整合发放模块,对所述第一样本语音进行语音处理,得到字符级别的语音表征;基于所述初始预训练模型中的文本模块,对所述字符级别的语音表征以及所述样本文本进行处理,以得到文本表征损失;根据所述文本表征损失更新所述初始预训练模型的参数,以确定目标预训练模型,其中,所述目标预训练模型中连续整合发放模块的输出为所述目标预训练模型的输出。
全文数据:
权利要求:
百度查询: 北京有竹居网络技术有限公司 跨模态表征的预训练、口语理解方法、装置及电子设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。