恭喜中国人民解放军网络空间部队信息工程大学于洪涛获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜中国人民解放军网络空间部队信息工程大学申请的专利一种低噪声干扰的有监督关系抽取方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN113849637B 。
龙图腾网通过国家知识产权局官网在2025-04-22发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202110985570.0,技术领域涉及:G06N5/025;该发明授权一种低噪声干扰的有监督关系抽取方法及装置是由于洪涛;胡新棒;李邵梅;张建朋;李继中;黄瑞阳;高超设计研发完成,并于2021-08-26向国家知识产权局提交的专利申请。
本一种低噪声干扰的有监督关系抽取方法及装置在说明书摘要公布了:本发明提供一种低噪声干扰的有监督关系抽取方法及装置。该方法包括:将待处理的语料转换为向量化的形式,得到编码序列;将所述编码序列送入MogrifierBiGRU‑GateAttention‑softmax中的第二层MogrifierBiGRU,得到融入上下文信息的编码序列;将所述融入上下文信息的编码序列送入MogrifierBiGRU‑GateAttention‑softmax中的第三层GateAttention,剔除任务无关信息,并聚合筛选结果,得到句向量;将所述句向量送入softmax,得到关系抽取结果。本发明改进了现有的BiGRU编码器以提高其特征抽取能力,设计了门控注意力层,并提出了两种门控策略去除句中任务无关词,能够在上下文信息建模的同时,减少噪声干扰。此外,无需语言工具进行数据预处理,减少了误差传播的影响。
本发明授权一种低噪声干扰的有监督关系抽取方法及装置在权利要求书中公布了:1.一种低噪声干扰的有监督关系抽取方法,其特征在于,包括:步骤1:将待处理的语料转换为向量化的形式,得到编码序列;步骤2:将所述编码序列送入MogrifierBiGRU-GateAttention-softmax中的第二层MogrifierBiGRU,得到融入上下文信息的编码序列;步骤3:将所述融入上下文信息的编码序列送入MogrifierBiGRU-GateAttention-softmax中的第三层GateAttention,剔除任务无关信息,并聚合筛选结果,得到句向量;步骤4:将所述句向量送入softmax,得到关系抽取结果;步骤1具体为:使用词向量表对长度为n、头尾实体长度均为1、分别位于时刻i、j的输入文本进行编码,得到编码序列其中,xk为位于时刻k的嵌入维度为dx的预训练词向量,且k∈1,2,…,n;分别为头尾实体起止指示符对应的词向量,维度为dx;所述步骤2具体包括:步骤2.1:根据当前时刻t的输入xt、上一时刻隐状态ht-1,按照公式1至公式8计算当前时刻t的隐状态ht:xt′=2σQht-1⊙xt1ht-1′=2σRxt′⊙ht-12xt″=2σQht-1′xt′3ht-1″=2σRxt″ht-1′4zt=σWzxt″+Uzht-1″+bz5rt=σWrxt″+Urht-1"+br6 其中,⊙为矩阵点乘,σ为sigmoid函数,tanh为激活函数,Q、R、Wz、Wr、Wh、Uz、Ur、Uh为权重矩阵,bz、br、bh为偏置,xt′、ht-1′、xt″、ht-1″为中间状态,zt为更新门,rt为重置门,为当前记忆内容;步骤2.2:按照公式9将正向、反向的隐状态进行拼接得到当前时刻t在上下文语境中的编码进而得到整个文本的上下文编码 所述步骤3具体包括:步骤3.1:通过公式10至公式12对实体信息进行融合,得到实体向量e: 其中Ww为权重矩阵,bw为偏置,i为实体在句中时刻,ri为贡献度指标,weighti为归一化后的贡献度指标,j为变量;步骤3.2:利用所述实体向量e对X2中除实体外任意时刻k的编码进行评分,得到其评分relak,relak表示对应词与关系的相关程度:p=gelue13 其中,p为非线性变换后的实体向量,T表示转置,sk为相关性度量,n为句子长度,m为变量;步骤3.3:通过评分向量rela=[rela1,…,relan]对输入语句中的任务无关信息进行过滤;步骤3.4:通过公式20至公式23得到句向量S:H=geluX320α=softmaxWαH21 其中,T表示转置,X3表示剔除任务无关信息后的文本编码,即筛选结果;H为非线性变换后的文本编码,Wα为权重矩阵,α为权重向量,为候选状态。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国人民解放军网络空间部队信息工程大学,其通讯地址为:450000 河南省郑州市高新区科学大道62号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。