买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：成都携恩科技有限公司

摘要：本发明涉及一种基于多训练全局感知的知识推理方法，属于计算机模型领域，包括：构建用于完成知识图谱推理任务的训练数据集；构建知识推理模型，并对知识推理模型参数进行初始化；通过训练数据集对知识推理模型进行知识感知的预训练，得到参数优化更新的初始知识推理模型；对初始知识推理模型进行微调更新，得到训练好的知识推理模型；对待推理的三元组构建上下文推理数据，将上下文推理数据输入训练好的知识推理模型中，得到推理概率分布，选择概率最大的实体或者关系作为最终推理结果。本发明采用全局注意力机制完成知识推理中节点间计算，以节点相对重要性刻画节点信息贡献来源，为知识推理结果赋予可解释性，提高了知识推理的应用。

主权项：1.一种基于多训练全局感知的知识推理方法，其特征在于：所述知识推理方法包括：S1、构建用于完成知识图谱推理任务的训练数据集；S2、构建基于多训练全局注意力感知的知识推理模型，并对知识推理模型参数进行初始化；S3、通过训练数据集对知识推理模型进行知识感知的预训练，得到参数优化更新的初始知识推理模型；S4、对初始知识推理模型进行微调更新，得到训练好的知识推理模型；所述S4步骤包括以下内容：S41、设置知识感知的预训练的第二训练轮数；S42、判断当前的第二训练轮数是否大于0，如果是，则进入S43步骤，否则，进入S49步骤；S43、从训练数据集中取出batch，并对batch中每一个三元组的头实体和尾实体分别进行一跳邻居采样，分别获得头实体邻居子图和尾实体邻居子图；S44、当需要对模型关系预测进行微调时，将头实体邻居子图和尾实体邻居子图进行合并，得到合成采样子图，为合成采样子图添加链接得到第一查询子图；当需要对模型链接预测进行微调时，得到第二查询子图和第三查询子图；S45、对第一查询子图进行图序列化转换得到第三模型输入序列数据，对第二查询子图或第三查询子图进行图序列化转换得到第四模型输入序列数据；S46、将第三模型输入序列数据和第四模型输入序列数据输入初始知识推理模型，得到分类概率结果；S47、将分类概率结果与对应的链接预测和关系预测任务的正确答案进行对比，完成第二模型损失计算；S48、根据第二模型损失对初始知识推理模型进行模型参数优化更新，将第二训练轮数减1，返回S42步骤；S49、将当前的初始知识推理模型作为训练好的知识推理模型；S5、对问答系统中待推理的三元组构建上下文推理数据，将上下文推理数据输入训练好的知识推理模型中，得到推理概率分布，选择概率最大的实体或者关系作为问答系统最终推理结果；所述知识推理模型包括：依次连接的多语义嵌入模块、全局注意力模块、前馈神经网络模块、上下文广播模块、遮蔽提取器、推理线性变换和Softmax分类器；所述多语义嵌入模块用于接收带有遮蔽标识的知识图数据；所述全局注意力模块用于完成隐藏特征的全局感知以及图感知学习；所述前馈神经网络模块用于完成隐藏层特征的特征空间变换；所述上下文广播模块用于完成隐藏层特征获取；所述推理线性变换用于完成目标隐藏层特征向实体和关系特征的空间变换；所述Softmax分类器用于完成待推理目标隐藏层概率分布计算。

全文数据：

权利要求：

百度查询： 成都携恩科技有限公司 一种基于多训练全局感知的知识推理方法