龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：珠海亿智电子科技有限公司
摘要：本发明适用于语音识别技术领域，提供了一种基于跨层连接注意力的语音识别网络、方法、设备及存储介质，该语音识别网络基于Transformer的编码器‑解码器结构构建，该语音识别网络的Transformer编码器包含多个编码层，相邻编码层之间连接有跨层连接模块，编码层用于在生成注意图时通过跨层连接模块学习前一编码层的中间注意力图的信息，从而使得每个编码层所产生的注意力图能够更加精准地对上下文的依赖关系进行表示，进而使得语音识别网络在增加了几乎可以忽视的参数量的情况下，其语音识别准确率得到显著提升。
主权项：1.一种基于跨层连接注意力的语音识别网络，所述语音识别网络基于Transformer的编码器-解码器结构构建，所述语音识别网络的Transformer编码器包含多个编码层，其特征在于，相邻所述编码层之间连接有跨层连接模块，所述编码层用于在生成注意图时通过所述跨层连接模块学习前一编码层的中间注意力图的信息，每个所述编码层包括注意力图生成模块，所述注意力图生成模块采用多头自注意力机制，所述注意力图生成模块用于通过所述跨层连接模块学习前一编码层的中间注意力图的卷积归纳偏置，基于所述卷积归纳偏置、该编码层的中间注意力图以及预设参数，利用Softmax函数得到该编码层的注意力图，每个所述编码层的中间注意力图为该编码层的注意力图生成模块在Softmax函数之前的中间输出，所述语音识别网络包括依次连接的下采样层、所述Transformer编码器、Transformer解码器和Softmax分类层，所述语音识别网络用于对输入的语音进行识别，以得到语音识别结果。
全文数据：
权利要求：
百度查询： 珠海亿智电子科技有限公司 基于跨层连接注意力的语音识别网络、方法、设备及介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号