买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：大连理工大学

摘要：本发明提供了一种基于Transformer与LSTM混合模型的智能风电功率预测方法，属于深度学习技术领域。本发明对风电场数据进行短期或超短期预测，针对风电场数据的随机性、波动性和尖峰性，设计了Transformer与LSTM混合模型。该混合模型能够高效率地训练出精度优良的模型，加快新能源领域的数字化转型，能够取得更为优异的训练效果，在训练过程能够充分利用过去宝贵的经验。本发明结合Transformer与LSTM模型的优点，既能够准确地预测数据，又能够高效地训练数据，为深度学习技术在风电场领域的应用提供了理论依据和实践经验。

主权项：1.一种基于Transformer与LSTM混合模型的智能风电功率预测方法，其特征在于，该方法包括以下步骤：步骤一，风电场s对本地数据进行预处理，包括空缺值处理、异常值处理和归一化处理；并构建Transformer与LSTM混合模型；步骤二，风电场s确定参与训练和预测的特征空间数量m；步骤三，风电场s将步骤一预处理后的本地数据划分为训练集和测试集；步骤四，风电场s使用训练集训练Transformer与LSTM混合模型，其中为了符合风电数据的波动性以及尖峰性，训练过程中的梯度采用多步经验回放算法修正；步骤五，风电场s使用测试集测试Transformer与LSTM混合模型的误差；步骤六，重复步骤四至步骤五，直到误差不再发生变化；步骤七，风电场s保存在测试集误差最小的模型参数，作为最终模型参数；所述步骤一中，Transformer与LSTM混合模型的构建步骤如下：1.1构建基本的LSTM模型；其中隐藏层的维度设置为步骤二中的特征空间数量m，要求特征空间均与功率相关，LSTM中堆叠的层数设置为2；1.2为符合风电数据随机性这一特性，将步骤1.1的运行结果，最后一层的输出经过线性层映射，维度由m转化为2m；2m的维度，每两个值作为一组，分别作为正态分布的均值和方差，共分成m组；每一组按正态分布随机取得一个值，共有m维度的输出；1.3因为Transformer与LSTM混合模型的目标是对风电数据进行固定周期的功率预测，为了减少模型计算量，因此仅构建Transformer模型中的encoder层，但在注意力机制中加入了MASK，加入MASK的目的是仅考虑迄今为止的时间序列数据；1.4风电场向步骤1.3中的Transformer模型输入过去l1时刻的大量时间序列数据，向步骤1.2中的LSTM模型输入过去l2时刻少量的时间序列数据；其中l1＞＞l2；1.5将步骤1.4中两种模型的输出结果进行加权作为最终的输出结果；1.6添加激活函数层、激活函数层以及末尾的全连接层以保证神经网络的高效训练和正确输出。

全文数据：

权利要求：

百度查询： 大连理工大学 一种基于Transformer与LSTM混合模型的智能风电功率预测方法