恭喜浙江工业大学李永强获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜浙江工业大学申请的专利基于自注意力的融合三元组信的短序列扩充电影推荐方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN114943010B 。
龙图腾网通过国家知识产权局官网在2025-06-20发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210588407.5,技术领域涉及:G06F16/783;该发明授权基于自注意力的融合三元组信的短序列扩充电影推荐方法是由李永强;李文伟;冯远静;范陈强;赵永智;吴毕亮;林栋;叶衍统;汤家睿;薛志豪设计研发完成,并于2022-05-26向国家知识产权局提交的专利申请。
本基于自注意力的融合三元组信的短序列扩充电影推荐方法在说明书摘要公布了:一种基于自注意力的融合三元组信息的短序列扩充电影推荐方法,包括以下步骤:1原始数据处理:处理用户观看电影的历史数据,并根据预先设定好的电影关系为每部电影制作知识图谱;2根据时间戳为每个用户制作观看的历史电影序列,使用单向Transformer模型反向训练模型,得到反向的预训练模型,使用反向的预训练模型生成扩充的增强数据;3将扩充后的数据送入预训练模型进行正向模型的微调,得到正向的预训练模型;4使用正向微调后的模型预测用户下一部即将观看的电影。本发明对短序列进行扩充,增强了数据,解决部分冷启动问题,对电影的推荐提供有力的帮助。
本发明授权基于自注意力的融合三元组信的短序列扩充电影推荐方法在权利要求书中公布了:1.一种基于自注意力的融合三元组信息短序列扩充电影推荐方法,其特征在于,所述方法包括以下步骤: 1原始数据处理:把原始的用户观看电影的历史数据处理成[用户id、电影id、评分、时间戳]的格式,针对每部电影根据预先设定好的电影的关系schema为每部电影制作知识图谱作为电影的外部信息; 2根据时间戳为每个用户制作观看的历史电影序列,以序列中第一个电影item0作为下一项将要预测的item,以[item1,item2...itemn]作为输入序列,使用单向Transformer模型反向训练模型,得到反向的预训练模型,用来生成增强数据,实现过程如下所述: 2.1对于每个输入的电影item当作头实体,使用图卷积网络获取到它们的关系和尾实体的聚合信息kg_embedding作为该item的外部信息,其GCN公式定义为: πi r=gi,r 其中,i∈Rd和r∈Rd分别为电影item和关系r的表示,d为表示的维度,描述了关系r与电影item的重要性,是标准化的item关系得分,e为知识图谱中实体的表示,Nv表示固定数量的邻居集,vi Nv为聚合后的表示; 2.2将item的嵌入item_embedding和item的三元组融合嵌入kg_embedding相加[item_embedding1+kg_embedding1,item_embedding2+kg_embedding2...item_embeddingn+kg_embeddingn]作为Transformer模块中的Q和K,将[item_embedding1,item_embedding2...item_embeddingn]作为Transformer模块中的V,送入单向Transformer模型进行反向训练,预测item0; 其中,Q和K为item本身和知识图谱聚合的叠加表示,V为item本身表示; 2.3根据每一个位置的单向Transformer模块的输出与真实值计算交叉熵损失,利用Adam优化器优化模型,最终训练好的反向模型作为预训练模型,以下是损失函数: 其中xi,t为模型输出Ht与所有item矩阵的点击值,at为时间步t的期望输出,<pad>表示一个填充项,st+1表示期望输出为下一个item,表示要预测的item,LOSS为交叉熵损失函数,表示itemt的输出与真实期望item的点击分数,xj,y表示负样本的分数; 2.4通过预训练模型输入[item0,item1,item2...itemn]预测前一个电影item-1,将item-1加到序列第一个位置形成新序列[item-1,item0,item1,item2...itemn],再将该序列送入预训练模型预测电影item-2,递归的重复此操作,最后得到k个原item序列前的伪item,将这k个伪item加到原序列前,得到扩充序列[item-k...item-2,item-1,item0,item1,item2...itemn]; 3将扩充序列[item-k...item-2,item-1,item0,item1,item2...itemn-1]送入预训练模型进行正向模型的微调,根据输入的扩充长度的序列经过正向Transformer模型预测最后一项itemn,微调的过程与反向训练一致,过程见2.2、2.3,经过训练微调后得到正向的预训练模型; 4使用微调后的正向预训练模型,通过输入扩充序列[item-k...item-2,item-1,item0,item1,item2...itemn]经过正向Transformer模型预测该用户下一部将要观看的电影itemn+1。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浙江工业大学,其通讯地址为:310014 浙江省杭州市拱墅区潮王路18号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。