买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜湖南大学申请的专利基于预训练大语言模型的多变量源荷数据预测方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119377397B 。

龙图腾网通过国家知识产权局官网在2025-03-28发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411943114.X，技术领域涉及：G06F16/335；该发明授权基于预训练大语言模型的多变量源荷数据预测方法及系统是由张辉;朱嘉明;王耀南;别克扎提·巴合提;杜瑞;樊叶心;钟杭;毛建旭设计研发完成，并于2024-12-27向国家知识产权局提交的专利申请。

本基于预训练大语言模型的多变量源荷数据预测方法及系统在说明书摘要公布了：本发明公开了基于预训练大语言模型的多变量源荷数据预测方法及系统，将历史源荷时序序列进行文本化编码，混合使用低秩矩阵适配法与适配器法形成基于多专家的混合微调模块的预训练大语言模型，进而得到初步预测时序序列，最后进行滤波校准，其中，基于待预测变量与其余变量之间的互相关选出相关性更高的变量为超前变量；针对初步预测时序序列中超前变量与待预测变量数据进行滤波，进而进行整合得到对于初步预测时序序列的校准偏差，用于校准。本发明在大语言模型的基础上进行微调，能够在小样本、多变量条件下，完成不同类型的源荷时序序列预测任务，利用了变量间的超前滞后关系，对待预测变量进行提示和引导操作，提高源荷预测准确性和可靠性。

本发明授权基于预训练大语言模型的多变量源荷数据预测方法及系统在权利要求书中公布了：1.一种基于预训练大语言模型的多变量源荷数据预测方法，其特征在于：包括以下步骤：S1：对输入的历史源荷时序序列进行模态转换，即将源荷时序序列的时序序列模态转换为文本模态实现源荷数据模态与预训练大语言模型的模态对齐；其中，对输入的历史源荷时序序列数据进行Token编码作为文本编码器中多头注意力层的查询向量Quary；将预训练大语言模型的词向量查询表经过线性层进行降维筛选，得到描述源荷序列特征的词向量，并作为多头注意力层的键向量Key和值向量Value；再进行多头注意力的操作并经前馈神经网络得到所述历史源荷时序序列的文本化编码；S2：将步骤S1得到的文本化编码输入到基于多专家的混合微调模块的预训练大语言模型，得到预测时序序列，所述预测时序序列为预测时刻时段所有变量的时序数据，所述基于多专家的混合微调模块的预训练大语言模型是在原预训练大语言模型的Transformer编码器结构中的前馈神经网络后加入多专家的Adapter适配器微调模块：即设置并列的多个Adapter适配器以及一个路由器，所述前馈神经网络的输出接入每个Adapter适配器和路由器；路由器与每个Adapter适配器连接，得到每个适配器的权重；对所有Adapter适配器进行加权求和，输入所述Transformer编码器结构的层归一化模块；其中，步骤S2得到的执行预测时序序列为初步预测时序序列；S3：对所述初步预测时序序列中的待预测变量数据进行滤波校准，具体如下：选取超前变量，基于多元变量间的相关性计算所述历史源荷时序序列中指定的待预测变量与其余变量之间的互相关函数，进而选出互相关函数值更高的K个变量作为超前变量，并将超前变量与待预测变量的时序数据进行时间对齐；生成滤波器，将历史源荷时序序列经线性层的处理得到动态的状态概率，并叠加设置的初始状态概率得到每个变量对应的每个状态的概率分布；再将每个变量对应的每个状态的概率分布乘以一个线性层的参数矩阵进行维度变换，再与超前变量对应的最大互相关函数值矩阵进行矩阵乘法，生成了针对初步预测时序序列中超前变量与待预测变量序列的滤波器；对初步预测时序序列中时间对齐后的超前变量以及待预测变量的序列进行快速傅里叶变换，并均利用对应滤波器进行滤波，然后将滤波后的超前变量的时序数据在K维度上进行求和得到和序列，所述和序列与滤波后待预测变量的序列进行拼接，再经线性层降频域维度，最后经快速傅里叶反变换得到校准偏差序列；利用所述校准偏差序列对所述初步预测时序序列中待预测变量的时序数据进行校准。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人湖南大学，其通讯地址为：410082 湖南省长沙市岳麓区麓山南路2号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。