买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：华南理工大学

摘要：本发明公开了一种基于横向联邦学习的能源聚合服务商负荷预测方法及系统，基于FedAvg横向联邦学习框架与PCA‑BP神经网络模型实现数据隐私安全下能源聚合服务商的负荷预测，数据和模型参数分别放置于各终端用户的本地服务器和能源聚合服务商的中央服务器中，本地服务器使用PCA‑BP神经网络模型对终端用户进行负荷预测并计算均方根误差RMSE；中央服务器采用FedAvg算法聚合所有本地服务器的加权平均损失并更新PCA‑BP神经网络模型参数；通过本地服务器和中央服务器的有限次交互，确保严格遵守数据安全和隐私协议，减少了模型数量和时间消耗，从而在不损害用户数据隐私的情况下实现了准确的负荷预测。

主权项：1.基于横向联邦学习的能源聚合服务商负荷预测方法，其特征在于，该方法是基于FedAvg横向联邦学习框架与PCA-BP神经网络模型实现数据隐私安全下能源聚合服务商的负荷预测，其中，数据和模型参数分别放置于各终端用户的本地服务器和能源聚合服务商的中央服务器中，本地服务器使用PCA-BP神经网络模型对终端用户进行负荷预测并计算均方根误差RMSE，该PCA-BP神经网络模型是在原来BP神经网络模型的基础上基于PCA算法提取主要特征，剔除聚合商用户本地数据集的无用和冗余特征；中央服务器采用FedAvg算法聚合所有本地服务器的加权平均损失并更新PCA-BP神经网络模型的参数；通过本地服务器和中央服务器的有限次交互，确保严格遵守数据安全和隐私协议，在不损害用户数据隐私的情况下实现了准确的负荷预测；包括以下步骤：S1：采集时间数据、天气数据、行业数据、负荷数据和经济数据这五种特征类型初始数据并进行人工特征选取，形成聚合商用户本地数据集，对聚合商用户本地数据集进行预处理，包括异常值检测和缺失值补充，并对数据中的离散值采用独热编码和sincos循环编码，连续值采取均值方差归一化操作；接着，将预处理后的聚合商用户本地数据集划分为训练集与测试集，分别用于模型的训练与测试；S2：把训练集的数据送入本地服务器的PCA-BP神经网络模型中进行首次训练，此次训练中给定该模型的初始参数θ0；训练时先对训练集的数据采用PCA进行特征提取，包括数据特征矩阵的标准化处理、协方差矩阵计算和奇异值分解，得到经过特征提取后的特征矩阵；再将提取的特征矩阵输入到PCA-BP神经网络模型中得到初始各终端用户的负荷预测值；其中，在反向传播中采用平滑曲线交叉熵方法计算负荷预测结果和真实值的损失值，经过有限轮迭代至损失值最小，得到单次本地训练最优网络；采用PCA-BP神经网络进行训练，包括以下步骤：S21：对训练集的特征数据样本中每个特征dm计算均值和标准差Sdm，并对各数据进行标准化处理得到特征di'j，最后得到标准化特征矩阵Dstand，其中，m表示特征数量，n表示每种特征在时间维度上的序列长度，i∈n，j∈m，如式4-8所示： 式中，D为特征矩阵，dnm表示数据样本的第m维特征在第n个长度上的具体数据，d'm表示标准化特征矩阵的第m维特征向量，d'nm表示标准化特征矩阵的第m维特征向量在第n个长度上的具体数据；S22：计算标准化特征矩阵Dstand的协方差矩阵A，如式9、10所示： 式中，aij和anm表示协方差矩阵的元素，k∈n，d'ki和d'kj分别表示标准化后的第i维和第j维特征的第k个数据，由式7计算得出，和分别表示第i维和第j维特征的均值，由式5计算得出；S23：利用奇异值分解SVD计算协方差矩阵A的特征值λq和特征向量Zq，其中q∈[1,m]，如式11、12所示：Z1＝[z11z12…z1m]TZ2＝[z21z22…z2m]T…Zm＝[zn1zn2…znm]T11；λ1≥λ2≥…≥λm≥012；式中，λm、Zm分别为协方差矩阵的特征值和特征向量，znm为第m个特征向量的第n个数据；S24：引入主成分的累积贡献率μ′为特征向量的评价指标，选取累积贡献率超过80％的特征向量tj作为评价矩阵T′，通过PCA特征提取得到特征矩阵X，如式13-15所示： T′＝[t1t2…tm]14；xm＝dmtm,X＝DT′15；式中，p′表示特征值的顺序，λj、λk均为λm的子集，xm为特征矩阵X的第m维特征；S25：基于BP神经网络模型搭建一个由1个输入层、3个隐藏层以及1个输出层组成负荷预测模型，即PCA-BP神经网络模型，其激活函数全部采用Sigmoid函数，如式16所示： 式中，fx为神经元的激活函数，x表示每层神经元的输出；S26：设定3个隐藏层的权重系数分别为ω1,ω2,ω3，阈值分别为b1,b2,b3；输出层的权重系数为ω4，阈值为b4；将PCA-BP神经网络模型参数统计为θ∈W,b，其中，W＝{ω1,ω2,ω3,ω4}，b＝{b1,b2,b3,b4}，W为PCA-BP神经网络模型权重集合，b为PCA-BP神经网络模型阈值集合；该PCA-BP神经网络模型的正向传播如式17所示： 式中，q＝Z+表示该网络模型的层数，h∈q；Xq＝[xq,1xq,2…xq,m]和Yq＝[yq,1yq,2…yq,m]分别表示第q层网络的输入和输出，xq,m为第q层网络第m个输入，yq,m为第q层网络第m个输出；ωh和bh分别表示第h层网络的权重系数和阈值，ωh∈W，bh∈b，并且当q＝1时，Xq等于式15中的X，即X为该网络模型的第一层输入；S27：将训练集的数据经PCA降维后的输入X输入至构建的PCA-BP神经网络模型中，得到预测结果；S28：采用平滑曲线交叉熵方法得到PCA-BP神经网络模型各级的损失函数Lq，如式18所示： 式中，Yq'表示每层网络的真实值；S29：计算PCA-BP神经网络模型权重的反向传播梯度与阈值的反向传播梯度如式19、20所示： S210：更新PCA-BP神经网络模型参数，表示为式21： 式中，l为网络模型的学习率，用来表示网络模型训练迭代收敛的速度，ω’h、b'h分别表示更新后的PCA-BP神经网络模型权重和阈值；S211：重复步骤S26-S210，直至经过有限轮次训练后停止迭代更新PCA-BP神经网络参数θ′，得到单次本地训练最优网络；S3：将测试集的数据输入到单次本地训练最优网络中得到负荷预测信息，接着，计算该负荷预测信息与真实值的平滑曲线交叉熵损失函数和网络权重、网络阈值的反向传播梯度，生成单次本地最优网络参数更新值θ′；S4：本地服务器将单次本地最优网络参数更新值θ′上传至中央服务器，中央服务器基于FedAvg算法求出所有终端用户的加权平均损失，通过随机梯度下降SGD拟合全局模型参数θ；接着，中央服务器将全局模型参数θ发送给本地服务器，本地服务器基于θ更新本地参数θ′＝θ，本地服务器的PCA-BP神经网络模型采用新的参数θ进行新一轮训练；包括以下步骤：S41：本地服务器将单次本地最优网络参数更新值θ′上传至中央服务器；S42：中央服务器在收集到所有响应用户更新后的模型参数θ′＝{θ'pp＝1,2,...,P}，θ'p表示第p个响应用户的单次本地最优网络参数更新值，对参数基于FedAvg算法做聚合处理，求出所有终端用户的加权平均损失，通过SGD拟合全局模型参数θ，如式22、23所示： 式中，Fpθ表示第p个聚合商用户的所有数据特征的平均损失，fθ为更新θ的函数，Fgθ表示第g个聚合商用户的所有数据特征的平均损失，g∈P是子集；S43：能源聚合服务商的中央服务器将全局模型参数θ发送给所有本地服务器，聚合商用户的本地服务器基于全局模型参数更新PCA-BP神经网络模型参数θ′＝θ；S44：在本地服务器的PCA-BP神经网络模型采用新的参数θ进行新一轮训练；S5：重复步骤S2-S4直至完成第R次交互；通过中央服务器和本地服务器的不断交互迭代，获得针对当前市场环境下负荷预测的全局最优模型，采用最终的全局最优模型参数θ在本地服务器进行最终负荷预测，得到全局最优负荷预测值，并根据此全局最优负荷预测值制定相应市场策略以获取收益。

全文数据：

权利要求：

百度查询： 华南理工大学 基于横向联邦学习的能源聚合服务商负荷预测方法及系统