买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：长江信达软件技术(武汉)有限责任公司

摘要：本发明公开了一种关联时空关系的时序数据预测方法。包括：构建所需气象湿度数据集；根据气象湿度数据集内的数据各采集点间是否存在空间相关性建立邻接矩阵；使用邻接矩阵构建基于图注意力网络的空间依赖特征提取模块，用于提取气象湿度数据集内的数据各采集点间的空间依赖特征；使用邻接矩阵构建基于自注意力机制的时间依赖特征提取模块，用于提取气象湿度数据集内的数据各时间点间的时间依赖特征；构建使用门控机制的时空特征融合模块；组合上述多个模块生成并训练综合预测模型；将气象湿度数据集输入已经训练好的综合预测模型并计算气象湿度预测结果。本发明进行时空数据融合，降低数据损失，具有考虑全面，准确度高的优点。

主权项：1.一种关联时空关系的时序数据预测方法，其特征在于：包括以下步骤：S1：构建所需气象湿度数据集，对气象湿度数据集内的数据进行缺失平滑处理、特高值处理、归一化处理；S2：根据气象湿度数据集内的数据各采集点间是否存在空间相关性建立邻接矩阵；S3：使用邻接矩阵构建基于图注意力网络的空间依赖特征提取模块，用于提取气象湿度数据集内的数据各采集点间的空间依赖特征；S4：使用邻接矩阵构建基于自注意力机制的时间依赖特征提取模块，用于提取气象湿度数据集内的数据各时间点的时间依赖特征；S5：构建使用门控机制的时空特征融合模块用于融合空间依赖特征提取模块和时间依赖特征提取模块的输出特征；S6：组合上述多个模块生成并训练综合预测模型；S7：将气象湿度数据集输入已经训练好的综合预测模型并计算气象湿度预测结果；步骤S1具体包括：1缺失平滑处理：对气象湿度数据集内的短期缺失数据采取平均取值，取数据缺失点前后三天时序数据进行平均平滑；2特高值处理：对由传感器失真所引起的非常规特高值进行处理，将重新特高值点前后五天的数据剔除；3归一化处理：采用归一化方式将有量纲的气象湿度数据集内的数据化为无量纲的纯量时序数据，具体方式如下： 式中，X为真实气象湿度数据；Xmax、Xmin分别对应时序数据的最大与最小值；Xnorm为归一化的时序数据；步骤S2包括：定义一个有向图结构描述空间采集点的空间关系，N个采集点，各采集点含有F个属性，气象湿度数据集的有向图G可以表示为：G＝V，E，A；式中，湿度传感器采集点结构定义为G＝V，E；其中V为湿度传感器采集点；E为采集点间是否存在空间影响关系；A为基于空间关系表征的邻接矩阵；气象湿度数据集的图G的时序数据表示为XT、XS，XT＝XS∈RN×T×F，T为历史数据长，F为属性通道数目，XT、XS分别作为时间依赖特征提取模块和空间依赖特征提取模块的输入；所属图G的图注意力网络的初始邻接矩阵的构建方式为： 式中，Adj表示采集点空间相关关系，表征邻接矩阵；i、j表示采集点i和j；步骤S3包括：模块内的图注意力网络以气象湿度数据集和湿度传感器采集点邻接矩阵Adj输入，计算得到注意力系数aij后，依据邻接矩阵判断连通关系，当中心湿度传感器采集点i和其一阶邻居湿度传感器采集点，无空间影响关系时，将对应的注意力系数aij置0，注意力矩阵中每个元素的计算方式如下： 式中，aij表示湿度传感器采集点i相对于采集点j的注意力系数；Adj为连通性表征的邻接矩阵；得到注意力系数aij后基于多头注意力机制，对当前中心湿度传感器采集点i的邻域采集点加权求和操作得到采集点i的更新状态： 式中，表示湿度传感器采集点j的时序数据；表示中心湿度传感器采集点i的更新状态；K为多头注意力头数；||·表示向量拼接；Wk表示第k头注意力对应的权重矩阵；考虑到输入数的湿度传感器采集点特征包含多个属性通道，参考多头注意力机制，对时序数据的每一通道使用改进图注意力网络提取空间特征后进行拼接，具体传播过程为： 式中，OGAT表示空间依赖特征提取模块中提取的湿度传感器采集点间空间特征矩阵；C表示GAT进行计算时的通道个数；表示中心采集点i的在通道C上的更新状态；||·表示向量拼接；步骤S4包括：将气象湿度数据集内的数据按时间顺序组成时序数据序列并输入时间嵌入层，时间嵌入层将时序序列中的属性数据映射到高维空间，将时序数据特征变换为细粒度特征供权重计算层提取时间特征，时间嵌入层处理计算方法为：HT＝EmbeddingXT；式中，HT为通过嵌入得到的高维细粒度特征，并作为Q、K、V三元组特征的输入项；权重输出层的处理计算方法为： AT＝RTVT；AT∈RN×T×C；式中，QT、KT、VT分别对应Query、Key、Value三元组；KTT表示Key矩阵KT的转置；RT为时间注意力图谱；AT表示权重计算层的输出；dk表示KT的模；分别表示Query、Key、Value三元组对应的权重矩阵；信息更新层是一个全连接层，负责将权重输出层计算得到的湿度细粒度特征进行融合并映射到与原始输入数据XT维度相同维度，为后续提出时空特征融合模块提供时间特征数据：OT＝FAT；式中，OT是与XT维度相同的输出，OT∈RN×T×F；F·表示全连接层；OT是时间依赖特征提取模块的最终输出，输出包含细粒度的长期依赖特征；步骤S5包括：基于标准门控机制传播方式进行改进：gx＝σWx+b；式中，表示门控输出，σ为激活函数，x为输入数据；b为偏置项，W为权重矩阵；改进时空特征融合模块的训练传播方式为： OG＝GT*OT+GS*OS；式中，分别为时间门控组件和空间门控组件的权重矩阵；OT，OS是时间依赖特征提取模块、空间依赖特征提取模块的输出；GT和GS是对应生成的门控组件；δ·是Layernormal，σ·是Sigmod，用于将信息映射到[0，1]，OG是时空特征融合模块的输出；步骤S6包括：综合预测模型作为隐含层，添加输入层和输出层；其中，输入层主要负责对原始气象湿度数据集内的数据进行增维，数据输入层为一层卷积层，将气象湿度数据集输入数据映射到更高维空间，提供更细粒度特征；在隐含层的综合预测模型中，处理过的气象湿度数据集内部数据通过空间依赖特征提取模块、时间依赖特征提取模块提取气象湿度时空信息OT、OS后经过时空特征融合模块聚合时空特征后得到门控输出OG；输出层一层卷积层，负责将时空特征融合模块结果OG转换为t+1时刻的气象湿度预测结果yt+1，即输入数据X的下一个时刻t+1的气象湿度预测数据；根据预测输出yt+1和对应时间气象湿度数据xt+1计算损失函数，通过反向传播更新所有可训练参数矩阵，并重新预测直至损失收敛或满足早期停止条件，再经过反归一化得到最终的预测序列Y。

全文数据：

权利要求：

百度查询： 长江信达软件技术(武汉)有限责任公司 一种关联时空关系的时序数据预测方法