买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜波音公司;中国科学院自动化研究所申请的专利神经网络机器翻译方法、模型及模型形成方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN111401081B 。

龙图腾网通过国家知识产权局官网在2025-07-01发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：201811534845.3，技术领域涉及：G06F40/58；该发明授权神经网络机器翻译方法、模型及模型形成方法是由张家俊;周龙;周玉;宗成庆;杨里设计研发完成，并于2018-12-14向国家知识产权局提交的专利申请。

本神经网络机器翻译方法、模型及模型形成方法在说明书摘要公布了：本发明涉及神经网络机器翻译方法、模型及模型形成方法。形成神经网络机器翻译模型的方法包括：形成编码器，其包括第一多头注意力模型；形成解码器，其包括第二多头注意力模型和未来信息模型，未来信息模型表示当前预测单词和已经生成单词的第一注意力隐层表示和当前预测单词和未来可能的单词的第二注意力隐层表示的融合；通过编码器和解码器形成第一机器翻译模型；以及对第一机器翻译模型进行对源语言序列从左至右和从右至左的解码训练，以形成神经网络机器翻译模型，其中，第一多头注意力模型和未来信息模型为第二多头注意力模型提供输入。本发明解决了在机器翻译的过程中，在预测当前单词时，未来信息不能被充分利用的问题。

本发明授权神经网络机器翻译方法、模型及模型形成方法在权利要求书中公布了：1.一种形成神经网络机器翻译模型的方法，其特征在于，包括： 形成编码器，所述编码器包括第一多头注意力模型； 形成解码器，所述解码器包括第二多头注意力模型和未来信息模型，所述未来信息模型表示当前预测单词和已经生成单词的第一注意力隐层表示和当前预测单词和未来可能的单词的第二注意力隐层表示的融合； 通过所述编码器和所述解码器形成第一机器翻译模型；以及 对所述第一机器翻译模型进行对源语言序列从左至右和从右至左的解码训练，以形成所述神经网络机器翻译模型， 其中，所述第一多头注意力模型和所述未来信息模型为所述第二多头注意力模型提供输入， 其中，形成所述解码器包括形成所述未来信息模型，形成所述未来信息模型包括： 利用点积注意力机制计算当前预测单词和已经生成单词的第一注意力隐层表示：其中，表示第一注意力隐层表示，表示当前时刻的隐层状态查询值，表示历史的隐层状态键值，表示历史的隐层状态实值，Attention为点积注意力机制的数学函数表示； 利用点积注意力机制计算所述当前预测单词和未来可能的单词的第二注意力隐层表示：其中，表示第二注意力隐层表示，表示未来的隐层状态键值，表示未来的隐层状态实值； 将所述第一注意力隐层表示和所述第二注意力隐层表示融合以形成融合注意力隐层表示； 利用所述融合注意力隐层表示形成点积注意力模型； 对所述点积注意力模型设置线性变换模型，以通过线性变换将所述点积注意力模型的输入映射为多组预定维度的向量； 对所述点积注意力模型设置连接模型，以将所述向量经由所述点积注意力模型处理后所得的向量进行连接；以及 通过所述点积注意力模型、所述线性变换模型和所述连接模型形成所述未来信息模型。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人波音公司;中国科学院自动化研究所，其通讯地址为：美国伊利诺斯州；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。