思必驰科技股份有限公司俞凯获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉思必驰科技股份有限公司申请的专利多语种自监督模型的预训练方法、系统和电子设备获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116469379B 。
龙图腾网通过国家知识产权局官网在2026-01-13发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310572643.2,技术领域涉及:G10L15/06;该发明授权多语种自监督模型的预训练方法、系统和电子设备是由俞凯;张志龙设计研发完成,并于2023-05-19向国家知识产权局提交的专利申请。
本多语种自监督模型的预训练方法、系统和电子设备在说明书摘要公布了:本发明实施例提供一种多语种自监督模型的预训练方法、系统和电子设备。该方法包括:将从多语种数据集中选择未配对的无监督语音数据输入至语种识别网络,构建语种分类器;从目标语种语音及语音句子集合中提取目标语种语音嵌入及语音句子嵌入;基于多语种自监督模型的初始运行损失、目标语种语音嵌入以及语音句子嵌入确定多语种自监督模型的扩展动态课程式学习的训练难度标准;语种分类器基于训练难度标准从多语种数据集中动态确定的不同数据量的训练集,对多语种自监督模型进行扩展动态课程式学习的预训练。本发明实施例本方法使多语种数据集更加高效的被利用,消除低资源目标语种语音上潜在有害数据,使多语言自监督学习下游任务得到性能提升。
本发明授权多语种自监督模型的预训练方法、系统和电子设备在权利要求书中公布了:1.一种多语种自监督模型的预训练方法,包括: 将从多语种数据集中选择未配对的无监督语音数据输入至语种识别网络,基于从所述无监督语音数据提取的包含语音句子信息的瓶颈向量构建语种分类器; 确定所述多语种数据集中的目标语种语音,从所述目标语种语音中提取语音句子集合,并从所述目标语种语音以及所述语音句子集合中提取对应的目标语种语音嵌入以及语音句子嵌入; 基于所述目标语种语音嵌入和所述语音句子嵌入的相似度、以及所述多语种自监督模型的运行损失,通过加权和确定所述多语种自监督模型的扩展动态课程式学习的训练难度标准,在预训练的初始阶段,将初始运行损失设置为零,基于所述相似度确定初始的训练集; 利用所述语种分类器基于所述训练难度标准从所述多语种数据集中动态确定的不同数据量的训练集,对所述多语种自监督模型进行扩展动态课程式学习的预训练。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人思必驰科技股份有限公司,其通讯地址为:215123 江苏省苏州市苏州工业园区新平街388号腾飞创新园14栋;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励