东北大学秦皇岛分校傅昌锃获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉东北大学秦皇岛分校申请的专利一种基于多层级图注意力的对话行为识别方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116610954B 。
龙图腾网通过国家知识产权局官网在2025-08-01发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310604666.7,技术领域涉及:G06F18/214;该发明授权一种基于多层级图注意力的对话行为识别方法是由傅昌锃;傅琰;邓琪;王舒禹;刘志刚设计研发完成,并于2023-05-26向国家知识产权局提交的专利申请。
本一种基于多层级图注意力的对话行为识别方法在说明书摘要公布了:本发明提供一种基于多层级图注意力的对话行为识别方法,涉及自然语言处理技术领域。该方法首先构建语料库数据集,并对语料库数据集中语句进行句子级别的语意编码;再对对话中语句执行上下文感知语意编码;然后构建窗口内连续对话的局部上下文图;对窗口内局部上下文图进行多层级的基于注意力机制进行语意特征编码,并融合各层级输出的最终用于分类的隐层语意特征;并基于隐层语意特征,使用分类器对对话进行分类;最后使用损失函数计算预测的行为标签和真实行为标签的损失,更新各权重。该方法考虑了说话者之间的相互联系,分析说话人话语之间的联系;构建了基于门图卷积网络的上下文级特征选择,用于选择突出的上下文信息进行DAs预测。
本发明授权一种基于多层级图注意力的对话行为识别方法在权利要求书中公布了:1.一种基于多层级图注意力的对话行为识别方法,其特征在于:包括以下步骤: 步骤1:构建语料库数据集; 步骤2:对语料库数据集中语句进行句子级别的语意编码; 步骤3:对对话中语句执行上下文感知语意编码; 获得各语句句子级别的语意编码后,使用一个固定的窗口,选择一段连续对话进行上下文感知编码,窗口的长度为nwin;其次,采用双向长短期记忆网络捕获窗口内的上下文信息,得到窗口所选连续对话的上下文感知语意编码特征; 步骤4:构建窗口内连续对话的局部上下文图; 获得上下文感知语意编码特征后,考虑当前需要预测对话行为的句子周围的Nnode个节点,在窗口内有p个过去话语和f个将来话语,构造有向图Nnode=p+f;其中每一个语句被视为有向图的一个节点,节点边表示节点vi与vj之间的联系,表示节点间的关系类型,t∈[0,7]为关系索引,αij∈w表示边的权值,取值为0≤αij≤1; 连接权值αij使用softmax函数设计一个可学习的邻接矩阵来获得;首先,定义8种上下文之间的连接方式即节点间的关系类型来初始化邻接矩阵,即,说话人自身的前向和后向的有向连接,对话人自身的前向和后向的有向连接,说话人到对话人之间的前向和后向的有向连接,对话人到说话人之间的前向和后向的有向连接;初始化的邻接矩阵中,每两个节点间的连接关系使用语意相似度先进行填充,随后使用softmax函数将节点i和节点i-p到节点i+f的所有节点的相似度数值处理为总和为1的连接权重值; 步骤5:对窗口内局部上下文图进行多层级的基于注意力机制进行语意特征编码,并融合各层级输出的最终用于分类的隐层语意特征; 采用关系图卷积网络RGCN和图注意网络GAT来聚合说话人级别的依赖关系;采用门图卷积网络GatedGCN进行上下文级别的语意特征更新,强调有助于分类的显著上下文语意信息; 对于聚合说话人级别的依赖关系,首先使用RGCN考虑说话人与窗口内局部上下文信息的关系,得到具备说话人依赖关系的语意特征如下公式所示: 其中,si和sj分别为对话中第i个语句和第j个语句的语意编码,和均为可学习权重矩阵,αij和αii分别为边rij和边rii的权值,为节点i在关系rt下的邻域索引,σ为激活函数; 基于说话人依赖关系的语意相关特征再采用GAT更新权重αij,然后使用更新的权重再次基于说话人依赖关系更新语意特征: 其中,α′ij为更新的权重,为更新的具备说话人依赖的语意相关特征,为可学习权矩阵,a为参数化权向量,为与语句i存在相关性的语句j的具备说话人依赖的语意特征;LeakyReLU是神经网络激活函数; 对于上下文级别的语意特征更新,采用门图卷积网络GatedGCN来挑选有助于分类的显著语句,如下公式所示: ηij=σWcg2si+Wcg3sj 其中,gi为更新后的上下文语意特征,Wcg1、Wcg2和Wcg3为可学习权矩阵,⊙表示逐元素内积,ηij作为节点i和j连接权重上的门参数; 最后,连接说话人依赖的语意特征和上下文级别的语意特征进行特征融合,得到节点i的隐层语意特征 步骤6:基于步骤5的隐层语意特征,使用分类器对对话进行分类; 步骤7:迭代执行步骤1-6,并使用损失函数计算预测的行为标签和真实行为标签的损失,更新步骤1-6中的权重,直至达到设定的终止条件。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人东北大学秦皇岛分校,其通讯地址为:066004 河北省秦皇岛市经济技术开发区泰山路143号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。