买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:中国科学院声学研究所
摘要:本申请提出一种语音识别模型的个性化联邦学习方法和系统,应用于中心端和多个客户端,在中心端,该方法包括:利用本地有标注语音样本进行有监督的训练语音识别模型,获得所述语音识别模型的种子模型,所述种子模型包括特征提取器及分类器;所述特征提取器用于处理多个客户端输入的语音信息,确定多个客户端中每个客户端的语音信息的个性化特征;利用所述多个客户端中每个客户端的语音信息的个性化特征对所述分类器进行半监督训练,获得训练好的分类器;将所述训练好的分类器传递至所述多个客户端中每个客户端。本申请通过将语音识别模型的特征提取器与分类器进行解耦优化的方式实现个性化联邦学习,有效提升语音识别模型性能,降低错误识别率。
主权项:1.一种语音识别模型的个性化联邦学习方法,应用于中心端,其特征在于,所述方法包括:利用本地有标注语音样本进行有监督的训练语音识别模型,获得所述语音识别模型的种子模型,所述种子模型包括特征提取器及分类器;所述特征提取器用于处理多个客户端输入的语音信息,确定所述多个客户端中每个客户端的语音信息的个性化特征;所述分类器用于根据所述个性化特征将所述语音信息转化为文本;利用所述多个客户端中每个客户端的语音信息的个性化特征对所述分类器进行半监督训练,获得训练好的分类器;将所述训练好的分类器传递至所述多个客户端中每个客户端;所述利用本地有标注语音样本进行有监督的训练语音识别模型,包括:以有标注语音样本为输入,以第一损失函数为学习目标,对所述语音识别模型进行有监督训练,所述第一损失函数为: 其中,x为所述有标注语音样本,y为所述有标注语音样本对应的文本标注,px为所述有标注语音样本的分布函数,θt为第t次训练迭代时的模型参数,a·为频谱数据增强函数;所述利用所述多个客户端中每个客户端的语音信息的个性化特征对所述分类器进行半监督训练,包括:以所述多个客户端中每个客户端的个性化特征为输入,以第三损失函数为学习目标,对所述分类器进行半监督训练,所述第三损失函数为: 其中,x2为个性化特征,为所述个性化特征的伪标签;所述个性化特征的伪标签为: 其中,为第t次训练迭代时所述分类器的教师模型参数;所述分类器的教师模型参数的取值为第t次迭代次的模型参数和前一次教师模型参数的指数滑动平均值: 其中,α为衰减系数。
全文数据:
权利要求:
百度查询: 中国科学院声学研究所 一种语音识别模型的个性化联邦学习方法和系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。