广东工业大学邝洪晖获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉广东工业大学申请的专利一种基于提示学习和对齐策略的对话推荐模型训练方法及对话推荐方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119396979B 。
龙图腾网通过国家知识产权局官网在2025-09-30发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411602543.0,技术领域涉及:G06F16/3329;该发明授权一种基于提示学习和对齐策略的对话推荐模型训练方法及对话推荐方法是由邝洪晖;秦景辉;杨志景设计研发完成,并于2024-11-11向国家知识产权局提交的专利申请。
本一种基于提示学习和对齐策略的对话推荐模型训练方法及对话推荐方法在说明书摘要公布了:本发明公开了一种基于提示学习和对齐策略的对话推荐模型训练方法及对话推荐方法。训练方法包括:将对话历史和知识图谱输入预训练语言模型和图卷积网络,分别得到文本和实体的特征嵌入;通过多粒度对比学习对这些特征进行语义对齐,利用线性交叉交互方法进行语义融合,得到多模态特征嵌入;利用所述特征对多任务共享的软提示模板进行预训练,引导对话模型完成对话生成和推荐任务;冻结生成式对话模型参数,利用损失函数对模型的可学习参数进行训练,得到训练好的模型,本发明能有效提升了模型间的语义一致性,显著增强预训练语言模型在对话推荐系统子任务中的上下文理解能力,通过多粒度对比学习,有效缩小了文本信息与知识图谱之间的语义鸿沟。
本发明授权一种基于提示学习和对齐策略的对话推荐模型训练方法及对话推荐方法在权利要求书中公布了:1.一种基于提示学习和对齐策略的对话推荐模型训练方法,其特征在于,包括如下步骤: 将对话历史输入预训练语言模型,得到对话历史的文本特征嵌入; 利用图卷积网络对知识图谱进行编码,结合当前输入的实体信息,得到实体的知识表示特征嵌入; 利用多粒度对比学习将对话历史的文本特征嵌入与实体的知识表示特征嵌入进行语义对齐,得到对齐后的对话历史文本特征嵌入和实体特征嵌入; 利用线性交叉交互方法对对齐后的文本特征嵌入和实体特征嵌入进行语义融合,得到融合后的多模态特征嵌入,并通过自监督实体预测对线性交叉交互方法中的可学习参数进行优化; 利用所述多模态特征嵌入对多任务共享软提示模板进行预训练,得到带可学习参数的多任务共享软提示模板;利用所述多任务共享软提示模板引导预设的生成式对话模型完成对话生成任务与推荐任务,得到包含推荐项目的对话响应; 冻结预设的生成式对话模型的参数,利用损失函数对模型的可学习参数进行训练,得到训练好的模型; 在预训练阶段,其最终的提示模版利用如下表达式进行建模: 其中,Efuse为融合后的多模态特征嵌入,Pshare为多任务共享的软提示模板,C为原始对话历史,R为原始对话响应,[;]为拼接操作; 在对话生成任务阶段,其最终的提示模版利用如下表达式进行建模: 其中,Pgen为针对对话生成任务的软提示模板,C为原始对话历史,R为原始对话响应,[;]为拼接操作; 在推荐任务阶段,其最终的提示模版利用如下表达式进行建模: 其中,Prec为针对推荐任务的软提示模板,C为原始对话历史,R为原始对话响应,[;]为拼接操作; 所述软提示模版Pshare、Pgen、Prec均包含可学习参数。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人广东工业大学,其通讯地址为:510080 广东省广州市越秀区东风东路729号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。