买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：湖南大学

摘要：本发明公开了一种面向中文短文本的实体关系抽取方法，包括获取中文数据，并进行预处理，对不足预设句子长度的文本进行扩充，并进行标记，得到处理后文本；对处理后文本进行特征提取；构建头实体标注模型，并进行头实体预测；构建特定关系的尾实体标注模型，进行尾实体预测，获取每个参与方的最后的三元组；利用横向联邦学习协同训练，获取最终损失，获得最终实体关系抽取模型，并对当前中文短文本进行实体关系抽取。本发明可以有效保证数据的隐秘，提高数据安全性，同时区别与传统的联邦学习，在融合了知识蒸馏的思想之后，避免了关系抽取模型参数太大，缩减了很大一部分的网络开销和时间开销，能够安全高效地对中文短文本的实体关系进行抽取。

主权项：1.一种面向中文短文本的实体关系抽取方法，其特征在于包括如下步骤：S1.获取中文数据，并进行预处理，预处理包括切分超过预设句子长度的长文本，对不足预设句子长度的文本进行扩充，并进行标记，得到处理后文本；S2.加载BERT预训练模型，并对处理后文本进行特征提取；S3.构建头实体标注模型，并进行头实体预测；S4.构建特定关系的尾实体标注模型，进行尾实体预测，获取每个参与方的最后的三元组；S5.利用横向联邦学习协同训练，获取最终损失，并将最终损失输入到每个参与方的最后的三元组，获得最终实体关系抽取模型，并对当前中文短文本进行实体关系抽取；包括如下步骤：C1.在数据处理阶段，数据重新洗牌；取训练集其中的30％数据作为验证数据集；剩下的数据集分成两份；C2.各个参与方的本地模型利用引入对抗训练后的模型进行训练，训练结束之后，对验证数据集作出本地的预测结果，并将预测结果上传至服务器模型，供给服务器模型进行学习；C3.将参与方的预测结果上传至服务器进行求和平均的融合，可信任第三方服务器利用融合的结果特征训练各个参与方法的本地模型；包括如下步骤：D1.融合各个参与方的本地模型，包括对每一个参与方的本地模型在特定关系的尾实体预测的概率进行求和平均，并使用softmax归一化为概率分布，得到预测结果为s的概率值和参与方预测概率分布；D2.采用第三方服务器对各个参与方的本地模型进行学习，包括获取预测结果为s的概率值，得到本地在小样本中特定关系的尾实体预测的损失；利用横向联邦学习协同训练，获取最终损失，并将最终损失输入到每个参与方的最后的三元组，获得最终实体关系抽取模型，并对当前中文短文本进行实体关系抽取。

全文数据：

权利要求：

百度查询： 湖南大学 一种面向中文短文本的实体关系抽取方法