买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：中山大学

摘要：本发明涉及机器阅读技术，为基于词性标注信息的语义空间融合的阅读理解问答方法及系统。其方法主要步骤包括：通过标注文档数据训练阅读理解模型；获得输入问题，对输入问题进行处理，得到问题文本Q；根据问题文本和文档数据库中的文档，通过多重语义筛选获得相关文档P；通过阅读理解模型抽取预选答案；在满足先决条件的前提下，将概率最高的预选答案作为最终输出答案。本发明利用分词词性标注器丰富问题文本的语义与词性信息，避免因问题表述不同而导致不一致的答案；多层知识融合层提高了模型在不同领域的泛用性，解决了在特定领域性能良好但在其他领域性能急剧下降的问题。

主权项：1.一种基于词性标注信息的语义空间融合的阅读理解问答方法，其特征在于，包括如下步骤：通过标注文档数据训练阅读理解模型；获得输入问题，对输入问题进行处理，得到问题文本Q；根据问题文本和文档数据库中的文档，通过多重语义筛选获得相关文档P；通过阅读理解模型抽取预选答案；在满足先决条件的前提下，将概率最高的预选答案作为最终输出答案；其中，所述通过阅读理解模型抽取预选答案，包括以下步骤：将问题文本Q与相关文档P进行拼接，作为阅读理解模型的文本输入Xinput＝[Q,P]；然后单独对问题文本Q进行分词和词性标注，并拼接得到问题分词词性输入Qcp；将阅读理解模型的文本输入Xinput＝[Q,P]与问题分词词性输入Qcp标记化，然后作为两个MACBERT模型的输入，其中两个MACBERT模型均为共享参数的模型；通过两个MACBERT模型对标记化后的文本输入Xinput和问题分词词性输入Qcp进行编码，得到相对应的上下文标记Xcontext与问题分词词性标记Qcontext；将上下文标记Xcontext与问题分词词性标记Qcontext作为知识融合层的输入；将上下文标记Xcontext与问题分词词性标记Qcontext分别通过两个多头自注意力，得到相对应的注意力分数矩阵SX与SQ；将注意力分数矩阵SX与SQ分别通过两个单独的全连接层得到SX’和SQ’，然后再对SX和SQ’通过注意力机制得到最终的融合注意力分数SC；将最终的融合注意力分数SC与SX相加的结果通过全连接层，得到最终的标记输出Xout；将标记输出Xout通过Softmax函数分别计算得到对应的答案起始位置概率Ps＝SoftmaxXoutWs+bs和答案终止位置概率Pe＝SoftmaxXoutWe+be；其中Ws和We表示全连接层的权重，bs和be表示全连接层的偏置；根据位置概率Ps和Pe计算得到文本片段概率乘积Pi,j最高的前k个，Pi,j＝Pis*Pje，其中i,j的范围为1到k，最终形成k*k个三元组起始位置S，终止位置E，文本片段概率Pi,j作为阅读理解模型抽取的Topk预选答案。

全文数据：

权利要求：

百度查询： 中山大学 基于词性标注信息的语义空间融合的阅读理解问答方法及系统