北京航空航天大学默莎莎获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉北京航空航天大学申请的专利一种多通道表征交互增强的不完备知识库多跳问答方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119760066B 。
龙图腾网通过国家知识产权局官网在2025-12-26发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411806968.3,技术领域涉及:G06F16/3329;该发明授权一种多通道表征交互增强的不完备知识库多跳问答方法是由默莎莎;王玉婷;程真设计研发完成,并于2024-12-09向国家知识产权局提交的专利申请。
本一种多通道表征交互增强的不完备知识库多跳问答方法在说明书摘要公布了:提供了一种多通道表征交互增强的不完备知识库多跳问答方法,包括构建细粒度多轮表征融合模块和多通道双塔匹配模块,并根据知识库嵌入的特性优化了表征相似度评估函数,旨在通过细粒度的多通道表征交互策略来对齐查询表征和知识库表征。细粒度多轮表征融合模块通过表征交互节点实现知识库和查询问句语义的早期融合,并在表征更新过程中进行多轮信息交互。多通道双塔匹配模块利用不同的语义提取矩阵对查询问句和知识库的表征进行处理,扩充了信息交互能力。
本发明授权一种多通道表征交互增强的不完备知识库多跳问答方法在权利要求书中公布了:1.一种表征交互增强型的不完备知识库多跳问答方法,其特征在于,包括以下步骤: 步骤1:获取用户输入的查询问句; 步骤2:在双塔架构的查询侧,用预训练语言模型BERT将输入的查询问句映射到低维向量空间,增加一个表征交互节点并提取出查询的初始表征: EncQ={w0,w1,...,wn,[cls],qint} 其中[cls]表示查询侧的表征融合字符,wi表示查询向量表征,qint表示查询侧的表征交互节点,Q={w1,w2,...,wn}表示查询问句,wi表示查询问句的组成单词; 步骤3:在双塔架构的知识库侧,用PullNet模型构建与查询问句和查询问句中心实体相关的查询子图Gsub,查询子图Gsub由与查询问句中心实体相关的至多三跳邻居实体组成: Gsub={e1,e2,…,en,eint} 其中,Gsub表示查询子图,ej表示构成查询子图的实体节点,eint表示知识库侧的表征交互节点; 步骤4:完成对双塔架构中查询表征和知识库实体表征的初始构建,输入到细粒度多轮表征融合模块进行进一步处理; 步骤5,包括以下步骤: 步骤5.1:通过浅层表征融合网络FuNetq,e对查询侧和知识库侧的交互节点进行语义融合,将和拼接后送入融合层,将两者混合之后再分割成 其中,是处于查询侧中间层的表征交互节点,是在当前层经过语义融合后的表征交互节点,MLP[·]表示多层感知机,是处于知识库侧中间层的表征交互节点,是在当前层经过语义融合后的表征交互节点; 步骤5.2:双塔架构的查询侧,利用Transformer模型对查询表征进行逐层更新,每一层的表征更新通过自注意力机制完成,具体遵循公式: 其中,表示查询侧中间层的表征,j表示单词在句中的位置,l表示当前所处的层数,[cls]l表示表征融合字符的中间层状态,是经过在当前层经过语义融合后的语义交互节点; 步骤5.3:双塔架构的知识库侧,通过注意力机制,首先计算节点m与相邻节点n的注意力权重,对相邻节点的表征进行加权求和,得到节点m的邻居汇聚表示之后使用多层感知机和权重矩阵对其进行线性变换,并通过激活函数Softmax·生成更新后的节点表征其中利用图注意力机制来进行知识库的表征更新,在图卷积网络GCN的每一层中,当前节点嵌入的表示被输入到图注意力层中,并产生每个实体的预融合节点,节点嵌入为: 其中,em和en分别表示节点m和节点n的表征,MLP·表示多层感知机,Wnode、Wedge和Wout表示权重矩阵,d表示表征的维度,表示与节点m相邻的节点集合,公式中的符号[,]表示向量的拼接操作,符号[·]表示矩阵乘法,Attention·表示注意力机制,rnm表示节点m和节点n的关系;在GCN层更新完知识库嵌入得到最终子图: 步骤5.4:完成双塔架构中查询表征与知识库实体表征的构建,输入至多通道双塔匹配模块进行表征相似度的评估; 步骤6,包括以下步骤: 步骤6.1:对进行表征相似度评估的表征进行变换: 其中,L是交互层堆叠的层数,τθ是控制原始信息留存率的超参数,表示表征向量ex的初始嵌入向量; 步骤6.2:利用CompIEx算法,定义知识库的表征相似度评估函数为: 其中,eh、er、et分别表示头实体节点的向量表示、知识库关系的向量表示和尾实体节点的向量表示,符号表示对et取共轭,Re·表示复向量的实部,对应的为eh、er、在第k个维度的复数表示,d表示嵌入向量的维度;对于所有存在的三元组关系h,r,t,fh,r,t>0,若fh,r,t<0,则表示知识库中没有这条知识; 步骤6.3:构建三个并行的表征处理通道,分别是原始表征通道、实部表征信息、虚部表征信息;其中原始表征通道包含查询问句的全部信息,实部表征通道处理复数向量表征的实数部分,虚部表征通道处理复数向量表征的虚数部分;评估查询与关系之间的语义相似度时,表示相似度评估函数为: 其中,eh、eq、ea分别表示头实体节点的向量表示、知识库查询的向量表示和答案实体节点的向量表示,符号表示对ea取共轭,Re·表示复向量的实部,Im·表示复向量的虚部;若fh,q,a>0,表明知识库查询的答案正确,若fh,q,a<0,则表示知识库查询的答案错误; 步骤6.4:在交互层进行特征交互,原始表征通道作为复向量计算点积,而实部通道和虚部通道的向量作为实向量计算点积,各自计算出来的表征相似度评估标量通过线性回归的方式集成: Fh,q,a=fh,q,a+θ1·fReh,q,a+θ2·fImh,q,a 其中,h,q,a分别表示头实体、查询问句、答案实体,fh,q,a表示原始表征通道基于复向量实部和虚部的表征相似度评估函数,fReh,q,a表示实部通道基于复向量实部的表征相似度评估函数,fImh,q,a表示虚部通道基于复向量虚部的表征相似度评估函数,θ1、θ2是加权系数,Fh,q,a表示基于整体信息的表征相似度评估函数; 步骤7:在答案推理阶段,对于用户输入的查询问句,相关答案选择基于表征相似度评估函数Fh,q,a的结果;将Fh,q,a的值作为答案得分,筛选出得分靠前的答案节点作为候选答案,Fh,q,a值越高,表明候选答案节点与查询问句的相关性越高。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京航空航天大学,其通讯地址为:100191 北京市海淀区学院路37号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励