买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：清华大学

摘要：本发明提供一种义原预测方法及系统，该方法包括：根据不同语言的同义词和同义词释义，获取多语言文本序列；通过图片编码器，对同义词图片进行编码，得到图片向量，同义词图片是从预设同义词集中获取得到的；将多语言文本序列和图片向量输入到训练好的义原预测模型，得到多语言同义词集的义原预测结果，其中，训练好的义原预测模型是由多语言样本文本序列和预设同义词集中的样本图片向量，对跨语言预训练模型和第一多标签分类器进行训练得到的。本发明通过多语言同义词及其释义来为BabelSynset预测合适的义原，具有较好的义原预测效果，解决人工手动标注义原的费时费力问题，从而高效且准确地为多种语言构建义原知识库。

主权项：1.一种义原预测方法，其特征在于，包括：根据不同语言的同义词和同义词释义，获取多语言文本序列；通过图片编码器，对同义词图片进行编码，得到图片向量，所述同义词图片是从预设同义词集中获取得到的；将所述多语言文本序列和所述图片向量输入到训练好的义原预测模型，得到多语言义原预测结果，其中，所述训练好的义原预测模型是由多语言样本文本序列和预设同义词集中的样本图片向量，对跨语言预训练模型和第一多标签分类器进行训练得到的；所述训练好的义原预测模型通过以下步骤得到：获取多语言样本文本序列，并对所述多语言样本文本序列进行义原标注，得到第一训练样本集；通过ResNet，对预设同义词集中的样本同义词图片进行编码，得到样本图片向量，并通过线性层，将所述样本图片向量转换到所述多语言样本文本序列所在的语义向量空间，得到空间转换后的样本图片向量；将所述第一训练样本集输入跨语言预训练模型进行训练，输出得到的多语言样本文本序列向量表示；基于注意力机制，对所述空间转换后的样本图片向量进行加权求和，得到集成图片向量；将所述多语言样本文本序列向量表示和所述集成图片向量输入至第一多标签分类器进行训练，得到训练好的义原预测模型；在所述获取多语言样本文本序列之后，所述方法还包括：通过MASK字符，随机对所述多语言样本文本序列中的词语进行替换，并对替换后的多语言样本文本序列进行义原标注，构建得到第二训练样本集；将所述第二训练样本集输入跨语言预训练模型进行训练，并将所述跨语言预训练模型的输出，作为第二多标签分类器的输入，利用所述第二多标签分类器的多标签分类交叉熵损失函数，对跨语言预训练模型进行微调，以通过微调后的跨语言训练模型和第一多标签分类器进行训练，得到训练好的义原预测模型。

全文数据：

权利要求：

百度查询： 清华大学 一种义原预测方法及系统