买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：四川语言桥信息技术有限公司

摘要：本发明属于机器翻译技术领域，提供了一种基于数据增强和多任务训练改善APE模型的方法、系统及可读存储介质，其中方法包括：步骤S1：训练一个NMT模型作为预训练模型；步骤S2：将训练集的源语言句子输入NMT模型中，生成n个最佳翻译结果的译文序列,并随机挑选出一个译文序列作为额外的机翻译文mt^；步骤S3：以多任务共享参数的方式对NMT模型进行微调；其中，多任务包括changeunchange分类任务和APE任务，共享参数为NMT模型的编码器参数。采用本发明，能够有效地检测和纠正高质量NMT系统所造成的错误，经测试，TER和BLEU在开发数据集上与baseline模型相比的得分提高了‑2.848和+3.74。

主权项：1.一种基于数据增强和多任务训练改善APE模型的方法，其特征在于，包括：步骤S1：训练一个NMT模型作为预训练模型；步骤S2：将训练集的源语言句子输入NMT模型中，生成n个最佳翻译结果的译文序列,并随机挑选出一个译文序列作为额外的机翻译文mt^；步骤S3：以多任务共享参数的方式对NMT模型进行微调，以此提高APE任务效果；其中，所述多任务包括changeunchange分类任务和APE任务，共享参数为NMT模型的编码器参数；所述步骤S3中微调的具体方法如下：3.1参数初始化：使用NMT模型作为初始模型参数；3.2多任务共享参数设置：将NMT模型中编码器参数用于共享，同时用于训练changeunchange分类任务和APE任务；3.3损失函数定义：针对changeunchange分类任务，使用交叉熵损失函数来计算模型预测结果与真实标签之间的差异；对于APE任务，使用平均绝对误差来度量机器翻译结果与参考答案之间的差异；3.4多任务训练过程：对changeunchange分类任务和APE任务进行迭代训练，在每次训练迭代中，基于训练数据随机选择一个任务进行训练，并根据选择的任务，使用相应的输入数据和损失函数进行训练；1所述步骤S3中的APE任务具体如下：以所述额外的机翻译文mt^作为输入的APE任务；所述1还包括将所述额外的机翻译文mt^用一个特殊的标记送入NMT模型的编码器；2所述步骤S3中的changeunchange分类任务具体如下：训练一个changeunchange分类器，对每一个输入预测的子词token进行change或者unchange的分类预测；所述2中训练changeunchange分类器的具体方法如下：2.1构建训练数据：包括源语言句子src、机器翻译结果mt、额外的机器翻译结果mt^以及后校验译文pe；2.2对训练数据进行词对齐处理；所述2.2的具体方法如下：21对机翻译文mt和后校验译文pe进行词对齐，若单词对齐，则用unchange标记,若单词不对齐，则用change标记；22对额外的机翻译文mt^和后校验译文pe进行词对齐，若单词对齐，则用unchange标记,若单词不对齐，则用change标记；23对训练集的原文src和机翻译文mt做词对齐，若单词对齐，则用unchange标记,若单词不对齐，则就用change标记；2.3多任务共享参数训练：基于所述2.2的训练数据，使用多任务共享参数的方式训练一个changeunchange分类器。

全文数据：

权利要求：

百度查询： 四川语言桥信息技术有限公司 基于数据增强和多任务训练改善APE模型的方法、系统及可读存储介质