买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:沈阳雅译网络技术有限公司
摘要:本发明公开一种可学习未来信息的机器翻译方法,步骤为:在解码器端加入未来信息网络模块,构建可学习未来信息的机器翻译模型;处理训练数据,利用词嵌入模型,将得到词嵌入表示;参数初始化和模型训练优化;在编码器中,对词嵌入进行计算并获得词嵌入向量中更多的信息,操作n次后,该模型即学到了句子的特征信息;可学习未来信息的机器翻译模型学习源语与目标语之间的关联信息,未来信息网络将学到的信息送回解码器,辅助解码器解码;利用训练好的可学习未来信息的机器翻译模型进行机器翻译实现可学习未来信息的机器翻译方法。本发明方法改善了现有神经机器翻译范式的不足,提高了神经机器翻译模型对平行语料的信息捕获能力和模型的翻译性能。
主权项:1.一种可学习未来信息的机器翻译方法,其特征在于包括以下步骤:1采用基于自注意力机制的Transformer模型作为基础框架,在解码器端加入未来信息网络模块,用于学习句子的未来信息,构建一种可学习未来信息的机器翻译模型;2处理训练数据,对源语和目标语平行句对进行数据清洗、分词,并利用现有的词嵌入模型,将得到的相应词转换成其对应的词嵌入表示;3使用均匀分布对可学习未来信息的机器翻译模型进行参数初始化,使用自适应学习率算法进行模型训练优化;4在编码器中,首先利用自注意力机制对词嵌入进行计算,随后将计算得到的值送入可学习未来信息的机器翻译模型中的前馈神经网络以获得词嵌入向量中更多的信息,此操作进行n次后,该模型即学到了句子的特征信息;5可学习未来信息的机器翻译模型利用编解码注意力机制学习源语与目标语之间的关联信息,同时编码器的信息也被送入可以学习未来信息网络结构中,以辅助解码器学习句子的未来信息;最后,未来信息网络将学到的信息送回解码器,辅助解码器解码;6利用训练好的可学习未来信息的机器翻译模型进行机器翻译,在翻译过程中,该模型仅使用基础的Transformer解码器进行解码,实现可学习未来信息的机器翻译方法。
全文数据:
权利要求:
百度查询: 沈阳雅译网络技术有限公司 一种可学习未来信息的机器翻译方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。