买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：数据空间研究院

摘要：本发明公开了一种结合矛盾纠纷知识图谱的智能问答系统，包括读取模块，用于读取输入的问题以及历史问答数据；矛盾纠纷知识图谱模块，用于存储结构化的矛盾纠纷数据；通用问题回答模块，用于不需要查询矛盾纠纷知识图谱的通用性问题回答；图谱查询识别模块，用于判断输入的问题是否需要查询矛盾纠纷知识图谱；意图识别模块，用于判断输入问题需要查询矛盾纠纷知识图谱中的哪些信息；实体识别模块，用于获取输入问题的查询主体；触发动作模块，用于存储不同意图对应的触发动作；图谱查询结果优化模块，用于将结构化的矛盾纠纷知识图谱查询结果转化为自然语言的形式作为输出。本发明为用户提供精准的答案和解决方案。

主权项：1.一种结合矛盾纠纷知识图谱的智能问答系统，其特征在于，包括：读取模块，用于读取输入的问题以及历史问答数据；矛盾纠纷知识图谱模块，用于存储结构化的矛盾纠纷数据，矛盾纠纷知识图谱中包含了矛盾纠纷涉事人员和机构相关信息；通用问题回答模块，用于不需要查询矛盾纠纷知识图谱的通用性问题回答；图谱查询识别模块，用于判断输入的问题是否需要查询矛盾纠纷知识图谱；意图识别模块，用于判断输入问题需要查询矛盾纠纷知识图谱中的哪些信息；实体识别模块，用于获取输入问题的查询主体；触发动作模块，用于存储不同意图对应的触发动作，当某个触发动作被激活时，会执行相应的查询语句查询矛盾纠纷知识图谱；图谱查询结果优化模块，用于将结构化的矛盾纠纷知识图谱查询结果转化为自然语言的形式作为输出；模块之间通过如下方法实现：S1、采集并清洗矛盾纠纷领域问答数据；S2、基于矛盾纠纷知识图谱以及相关应用场景，确定矛盾纠纷知识图谱查询意图种类，并实现每种意图种类对应的矛盾纠纷知识图谱查询动作；S3、基于采集的矛盾纠纷领域问答数据构建总训练数据集；S4、基于构建的训练数据集，使用低秩适配方法对大模型进行微调，微调完成之后将各个子功能的低秩适配权重合并到大模型中；S5、对于输入的问题，基于图谱查询识别功能判断是否需要进行矛盾纠纷知识图谱查询，对于不需要进行矛盾纠纷知识图谱查询的问题，会传递给大模型作为通用知识问答处理；对于需要进行矛盾纠纷知识图谱查询的问题，通过意图识别功能识别具体的查询意图，再通过实体识别功能获取具体的查询主体，将获取到的查询意图映射到图谱查询动作上，将查询主体带入查询动作，完成对矛盾纠纷知识图谱的查询，最终将查询结果通过大模型转化为自然语言形式的回复；所述S4包括以下具体步骤：S41、基于图谱查询识别训练数据集、意图识别训练数据集和实体识别训练数据集，设计改进LoRA方法，对大模型进行微调；S42、在大模型中引入多层嵌套低秩适配层，每个嵌套低秩适配层包括任务的嵌套低秩适配矩阵A和B以及共享基矩阵U和V，定义为： ； ；其中，和为第l层任务的嵌套低秩适配矩阵，为第l层任务权重矩阵，为第l层任务权重矩阵的转置矩阵，和为第l层共享的低秩基矩阵；S43、将输入问题的文本进行多级编码化，每一级编码化都增强词嵌入的语义表示： ；其中，表示第l层的词嵌入矩阵，X表示文本序列的嵌入表示，表示第l层的嵌入函数，用于将输入文本X转换为词嵌入表示；S44、为每个词嵌入添加层级位置信息，使大模型理解单词在句子中的多层次位置： ； ；其中，pos表示词嵌入的位置，i表示维度索引，d表示嵌入维度，表示偶数位置的词嵌入，表示奇数位置的词嵌入；S45、将多层次词嵌入表示和多层次位置编码共同作为大模型的输入： ；S46、在大模型的每个Transformer层中，使用层次化注意力机制计算每个词嵌入与序列中其他词嵌入的多层次注意力得分，并引入改进的嵌套低秩适配矩阵和加入到大模型的层次化注意力模块中，以调整大模型参数： ；其中，,,分别表示第l层的查询、键和值矩阵，表示键向量的维度；S47、在前馈网络中，使用嵌套低秩适配层对参数进行多层次微调，前馈网络表示如下： ；其中，,表示第l层前馈网络的权重矩阵，,表示偏置；S48、使用自适应多层学习率算法对嵌套低秩矩阵和进行更新，自适应调整每层的学习率： ； ；其中，表示第l层任务的自适应学习率，表示损失函数；S49、在训练过程中，保持原始网络大模型结构不变，仅对嵌套低秩矩阵和进行训练，初始化阶段，嵌套低秩矩阵使用随机高斯分布进行初始化，嵌套低秩矩阵初始化为全零矩阵；S410、将训练好的图谱查询识别LoRA参数、意图识别LoRA参数、实体识别LoRA参数与大模型进行多层次合并，在大模型基础能力不变的情况下，增加各个子功能的能力： ；其中，表示合并后的最终大模型参数，包含大模型的基础参数和各个子功能模块的多层次微调参数，task表示具体的子功能任务，l表示层次。

全文数据：

权利要求：

百度查询： 数据空间研究院 一种结合矛盾纠纷知识图谱的智能问答系统