买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉重庆大学申请的专利融合时间信息的自注意力序列推荐方法、系统及设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN115249175B 。

龙图腾网通过国家知识产权局官网在2026-02-27发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210973525.8，技术领域涉及：G06Q30/0601；该发明授权融合时间信息的自注意力序列推荐方法、系统及设备是由孙天昊;秦杜军;张小东;马嘉懿;吴全旺设计研发完成，并于2022-08-15向国家知识产权局提交的专利申请。

本融合时间信息的自注意力序列推荐方法、系统及设备在说明书摘要公布了：本发明提供了融合时间信息的自注意力序列推荐方法、系统及设备，方法包括：构建融合时间信息的自注意力序列推荐模型；利用数据集中用户的历史交互序列，对所述推荐模型进行训练，得到训练好的序列推荐模型；获取待推荐用户的历史交互序列，并将所述待推荐用户的历史交互序列输入至训练好的融合时间信息的自注意力序列推荐模型中，获得目标推荐商品并推荐给用户。本发明采用融合时间信息的自注意力序列推荐方法，通过将时间间隔信息的嵌入与商品嵌入进行连接形成带有时间信息的商品嵌入，以及通过序列推荐模型中的多个自注意力块进行多重注意力计算，从而从根源上解决了现有的基于序列推荐方法的商品推荐准确性低、用户满意度低的问题。

本发明授权融合时间信息的自注意力序列推荐方法、系统及设备在权利要求书中公布了：1.一种融合时间信息的自注意力序列推荐方法，其特征在于，包括步骤： S1、构建融合时间信息的自注意力序列推荐模型，具体为： S11、对用户的历史交互序列进行数据扩充，其中，所述历史交互序列包括商品序列i1,i2,......in，及其对应的时间戳序列t1,t2,......tn，使用所述商品序列和时间戳序列的包含首项的连续子序列进行数据扩充，得到扩展后的用户的历史交互序列； S12、对扩展后的用户的历史交互序列中的每条商品序列，根据对应的时间戳序列计算每个商品与最后一个商品的时间间隔，记作t1n，t2n，t3n，......，tn-1n，tnn，该序列作为相应商品序列中所包含对应的时间间隔信息，其中，t1n表示输入序列第一个元素与第n个元素的时间戳间隔差； S13、利用嵌入层，将所述商品序列和所述时间间隔信息转变为同一维度的嵌入向量，在嵌入向量的最后添加一个虚拟元素，并进行编码表示，得到所述商品序列的嵌入表示E＝e1，e2，......，en，ea和所述时间间隔信息的嵌入表示P＝p1，p2，......，pn，pa，其中，a为虚拟商品的下标； S14、连接所述商品序列的嵌入与所述时间间隔信息的嵌入，生成商品新的嵌入表示X＝x1,x2,......,xn,xa，其中xi＝Concatei，pi，Concat表示连接操作，xi∈Rd； S15、对所述商品新的嵌入表示X输入至由多个自注意力块连接组成的多重自注意力模块中，经过最后一个自注意块后，得到输出序列h1,h2,......,hn,ha，其中，hi表示以第i个商品为中心，△t为半径的时段内该用户的兴趣表示,i＝1，…,n，ha为用以保存聚合信息的虚拟商品嵌入； 在每个所述自注意力块中，包括如下步骤： 1对所述商品新的嵌入表示X进行自注意力的计算，具体为： 首先，根据X计算Q、K、V三个向量，将X映射到query、key、value三个空间： Q＝XWQ K＝XWK V＝XWV 其中，WQ,WK,WV∈Rd×d是可学习的参数，其中，R是一个表示维度的符号，上标d×d表示参数矩阵的第一个维度是d，第二个维度也是d； 其次，使用Q、K、V进行有限制的自注意力计算： 其中，S表示局部自注意力的输出，d表示嵌入向量的维度；Attention表示局部自注意力操作，SA是Attention操作的别名；Softmax是一个映射函数，将一个向量映射成一个概率分布向量，且各概率和为1，就是归一化指数函数；d为嵌入向量的维度； 进行自注意力计算的过程中，在Qi和Kj进行计算时，将对应时间戳ti和tj的间隔限制在一定时间范围内，即|ti-tj|≤Δt，Δt为可学习的参数，其中，Qi表示query空间下的目标结点，Kj表示key空间下的邻居结点； 2将自注意力操作后得到的S通过两层point-wise前反馈网络： F1＝FFNS＝RELUSW1+b1W2+b2 F2＝FFNF1＝RELUF1W1+b1W2+b2 其中，W1,W2∈Rd×d,b1,b2∈Rd均为可学习的参数；FFN表示以RELU作为激活函数的全连接层；S表示自注意力的输出，F1表示第一层前反馈网络的输出，F2表示第二层前反馈网络的输出； 3在所述自注意块中的自注意力层和前反馈层加入LayerNormalization、残差连接和Dropout操作，具体如下所示： GX＝X+DropoutGLayerNormX 其中，G泛指表示自注意力操作或者前反馈层的操作，X表示进行某一操作时的输入；LayerNorm表示层归一化操作，加在输入操作之前，加速模型学习；Dropout操作在训练过程中以一定的概率的使神经元失活，加在输出操作之前，防止过拟合；⊙表示内积；μ和σ2表示X的均值和方差；α和β表示表示比例因子和偏差项，是可训练的参数；∈是常量； 步骤S15具体包括：将所述商品新的嵌入表示X输入至第一个自注意力块，得到第一输出结果，将所述第一输出结果输入至第二个自注意力块进行计算，直至最后一个自注意力块计算完成，所述最后一个自注意力块的输出结果即为所述多重自注意力模块的输出序列，具体如下所示： 其中，b代表第b个自注意块，共有L个自注意块，L为超参数；Sb表示第b个自注意块中自注意力的输出，表示第b个自注意块中第一层前反馈网络的输出，表示第b个自注意块中第二层前反馈网络的输出；第一个自注意块的输入为X＝x1,x2,……,xn,xa，最后一个自注意块的输出记为h1,h2,……,hn,ha；自注意块中第二层前反馈网络的输出将会作为下一个自注意块的输入； S16、将所述输出序列进行带注意力的聚合，得到用户的最终兴趣表示h，具体步骤包括：计算对应的权重并聚合表示： 其中，hi表示以第i个商品为中心，△t为半径的时段内该用户的兴趣表示；αi表示hi对应的权重；对所有hi进行带权重的聚合，作为最终兴趣表示，记为h； S17、将聚合后的所述最终兴趣表示h与候选商品的嵌入矩阵作内积，得到候选商品被交互的概率，根据所述概率来生成推荐结果，具体为： 其中，M代表候选商品的嵌入矩阵，代表候选商品被交互的概率； S2、利用获取的数据集中用户的历史交互序列，对所述融合时间信息的自注意力序列推荐模型进行训练，得到训练好的融合时间信息的自注意力序列推荐模型； S3、获取待推荐用户的历史交互序列，并将所述待推荐用户的历史交互序列输入至所述训练好的融合时间信息的自注意力序列推荐模型中，获得目标推荐商品，并将所述目标推荐商品推荐给用户。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人重庆大学，其通讯地址为：400030 重庆市沙坪坝区沙正街174号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。