买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：天津大学

摘要：本发明公开了一种基于常识感知和层次化多任务学习的对话情感识别方法，利用基于自注意力机制的预训练语言模型RoBERTa和Transformer架构构建词级和话语级的分层编码，将对话中的每条输入语句编码成向量形式的嵌入表示；在层次化结构多任务学习框架下采用层次化结构建模任务之间的层次化关系，以同时完成三个对话理解相关的任务：得到语句对应的对话行为类别预测标签以及当前语句的情感预测标签，这两个预测结果进行情感推理，得到下一语句的情感预测标签。与现有技术相比，本发明能够显著提升情感识别的性能，同时具备良好的对话行为分类能力和一定的情感推理能力。

主权项：1.一种基于常识感知和层次化多任务学习的对话情感识别方法，其特征在于，该方法具体包括以下流程：步骤1、从常识知识库中获取与对话中的话语相关的常识知识，对描述给定角色X的事件的短语选择其中五种与认知和情感因素相关的关系类型sI，sR，oR，sE，oE，并且，对每个关系类型生成与对话中的话语ui最相近的K个事件短语，合并作为候选知识，记为步骤2、利用基于自注意力机制的预训练语言模型RoBERTa和Transformer架构构建词级和话语级的分层编码，将对话中的每条输入语句编码成向量形式的嵌入表示；词级编码和话语级编码分别提取不同粒度的语义信息，在考虑历史语句的同时，在话语级别建模认知和情感因素在语句间的转移模式；本步骤所包含的具体处理如下：步骤2.1、构建词级编码：使用基于多层自注意力机制的预训练语言模型RoBERTa将输入语句编码成对应的嵌入表示，对每个含有|ui|个词的输入语句在语句首尾分别添加特殊符号[CLS]和[SEP]，即将ui送入语言模型RoBERTa得到每个词的嵌入表示，如下式所示： 其中，d为语言模型RoBERTa的隐藏层维度，为维度为d的实数空间；将语句ui的第一个嵌入表示即符号[CLS]的表示作为整个语句的表示，记为xi，对应得到语句表示的序列x1，x2，...，xN；步骤2.2、构建话语级编码：使用一个Transformer块将步骤1中通过词级编码所得到的对话中每个词的嵌入表示作为本步骤的输入，进行对话中语句之间的上下文依赖关系建模，将从词级编码器得到的语句表示的序列x1，x2，...，xN转换成对上下文敏感的语句表示h1，h2，...，hN，如下式所示： 其中，N为对话中语句数量，Trm为Transformer编码器层；步骤3、在层次化结构多任务学习框架下采用层次化结构建模任务之间的层次化关系，以同时完成三个对话理解相关的任务：首先基于语句表示得到语句对应的对话行为类别预测标签，再基于语句表示和对话行为分类的预测结果得到当前语句的情感预测标签，最后基于语句表示和对话行为类别标签、当前语句的情感标签这两个预测结果进行情感推理，得到下一语句的情感预测标签；本步骤所包含的具体处理如下：步骤3.1、进行对话行为分类：获得语句ui的话语级嵌入表示hi后，使用注意力机制获得候选知识中感知对于对话行为分类的相关知识，计算注意力向量如下式所示： 其中，[·；·]为向量连接操作，xi为第i个整个语句的表示，Attn1为计算注意力向量的方法；经过另一个非线性层将xi与注意力向量融合后，预测当前语句对应的对话行为标签如下式所示： 其中，为另一个非线性层，MA为对话行为类别标签的嵌入矩阵，为概率分布函数，～为变量取值服从该概率分布函数，dA为对话行为类别标签数；步骤3.2、进行对话情感识别：同样使用注意力机制从候选知识中感知对于对话情感识别任务最有益的知识，获取注意力向量如下式所示： 考虑步骤3.1中预测的对话行为类别标签当前语句情感标签的预测标签如下式所示： 其中，FE为非线性层，dE为情感类别标签数，ME为情感类别标签的嵌入矩阵；步骤3.3、对话情感推理：基于对话行为分类和对话情感识别任务的预测结果，对对话未来的情感走向做出推理，并为将要到来的回复选择合理的情感类别，给定对话中的前i个语句，额外考虑预测的第i个语句的情感类别标签第i+1个语句对应的情感类别预测标签如下式所示： 其中，FR为非线性层，ME为共同的情感类别标签嵌入矩阵；步骤3.4、进行模型训练，得到优化目标。

全文数据：

权利要求：

百度查询： 天津大学 基于常识感知和层次化多任务学习的对话情感识别方法