昆明理工大学朱波获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉昆明理工大学申请的专利基于异构图神经网络的实体关系联合抽取模型及构建方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119474394B 。
龙图腾网通过国家知识产权局官网在2025-06-03发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202410854440.7,技术领域涉及:G06F16/36;该发明授权基于异构图神经网络的实体关系联合抽取模型及构建方法是由朱波;李润波;邱兰;仇思琪;李跃;袁蓉;张凤祥设计研发完成,并于2024-06-28向国家知识产权局提交的专利申请。
本基于异构图神经网络的实体关系联合抽取模型及构建方法在说明书摘要公布了:本发明涉及自然语言处理领域,提供一种基于异构图神经网络的实体关系联合抽取模型及构建方法,采用条件注意力机制将原始文本序列中预定义的关系类型信息作为先验知识引入到原始文本序列在字粒度上融合上下文语义信息的动态特征词向量中,得到融合了上下文语义信息和关系类型的特征词向量,而且在基于实体类型构建异构图时,为异构图中存在的实体对之间添加虚拟关系边,通过虚拟关系边表示相连两个实体之间的关系,实现实体与关系的联合建模,通过联合建模能够更好地捕捉到实体和关系之间的语境依赖性以及多个实体之间的关系交互,通过联合建模这些关系还可以更好地还原实际关系的复杂性,更加高效的提高抽取实体之间重叠关系的一致性和准确性。
本发明授权基于异构图神经网络的实体关系联合抽取模型及构建方法在权利要求书中公布了:1.一种基于异构图神经网络的实体关系联合抽取模型的构建方法,其特征在于,所述方法包括:将原始文本序列输入到ERNIE3.0预训练模型进行预训练,得到原始文本序列在字粒度上融合上下文语义信息的第一动态特征词向量;采用条件注意力机制将原始文本序列中预定义的关系类型作为先验知识引入到所述第一动态特征词向量中,得到融合了上下文语义信息和关系类型信息的第二特征词向量;将所述第二特征词向量输入到预设的BILSTM模型中进行编码操作,得到正向隐藏状态序列和反向隐藏状态序列,将所述正向隐藏状态序列和反向隐藏状态序列进行合并,得到第二特征词向量的双向编码表示,并根据第二特征词向量的双向编码表示生成第三特征词向量,其中,根据第二特征词向量的双向编码表示形成第三特征词向量,包括:通过全连接层将第二特征词向量的双向编码表示进行特征融合形成第三特征词向量;将第三特征词向量转换为预设的表形式输出,并采用多头选择方法在表形式输出中对原始文本序列中的实体位置以及实体类型进行实体标注,其中,将第三特征词向量转换为预设的表形式输出,包括:将第三特征词向量的张量形状的输出在第三个位置新加一个维度并扩展为seq_len大小,生成(batch_size,seq_len,seq_len,hidden_dim)形式的中间张量输出,以得到每个字粒度上实体开始位置的第一隐藏状态组合矩阵,其中,batch_size表示第三特征词向量的批次,seq_len表示第三特征词向量的序列长度,hidden_dim表示第三特征词向量的隐藏维度;将得到的中间张量输出进行转置后并交换第一个维度和第二个维度的位置,以得到每个字粒度上实体结束位置的第二隐藏状态组合矩阵;将第一隐藏状态组合矩阵和第二隐藏状态组合矩阵在表示特征的最后一个维度上进行拼接即可得到表形式输出;根据实体标注后的表形式输出以不同的实体类型作为不同类型的节点构建异构图,每一节点的初始特征向量包括实体位置信息和所述第三特征词向量的融合特征向量,为异构图中存在的实体对之间添加虚拟关系边;为每一种关系类型设置对应的异构图卷积层,并在异构图卷积训练中对每种关系类型执行对应的异构图卷积操作,生成相应的边预测结果得到每个关系类型的三元组预测输出,三元组具体包括头实体表示、关系类型和尾实体表示。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人昆明理工大学,其通讯地址为:650500 云南省昆明市呈贡区景明南路727号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。