买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:中国科学技术大学
摘要:本发明涉及时序事件抽取技术领域,公开了一种矛盾纠纷时序事件抽取方法,包括:词级别知识表示;BERT知识融合;上下文信息增强。本发明设计了词级别知识表示和BERT知识融合模块,提出一种结合词级别知识表示的,能够在BERT内部结构中进行知识融合的事件抽取方法;可以为矛盾纠纷领域的时序事件抽取任务学习特定的词级别的知识表示,同时能够将知识表示融入到BERT的内部结构,充分利用了BERT预训练语言模型的表示能力,可以有效解决该任务缺少领域知识的问题;通过增加双向长短期记忆网络层和注意力层,有效地解决了在矛盾纠纷数据集下传统模型过度关注局部上下文信息,而忽略长距离及全局依赖信息的问题。
主权项:1.一种矛盾纠纷时序事件抽取方法,其特征在于,包括以下步骤:步骤一,词级别知识表示:首先将矛盾纠纷句子中的字符与中文预训练词向量库进行匹配,得到词级别的知识表示;步骤二,BERT知识融合:为了在预训练的BERT模型中嵌入词级别的知识表示,对BERT模型的结构进行了修改;使用BERT模型提取矛盾纠纷句子的文本特征,然后将词级别的知识表示进行一系列变换,包括非线性变换、注意力加权,将文本特征与变换后的词级别知识表示进行知识融合,得到融合知识表示后的字符向量;将融合知识表示后的字符向量输入到BERT模型的下一层Transformer层中,并最终得到BERT模型的输出;步骤三,上下文信息增强:对于BERT模型的输出,使用双向长短期记忆网络和注意力层,添加句子的长距离依赖信息和经过注意力加权的全局信息,最后通过CRF层解码得到标签序列,作为时序事件抽取结果。
全文数据:
权利要求:
百度查询: 中国科学技术大学 一种矛盾纠纷时序事件抽取方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。