华中科技大学孙旭彤获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉华中科技大学申请的专利基于双阶段优化架构深度学习模型参数优化器的构建方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120337991B 。
龙图腾网通过国家知识产权局官网在2025-08-29发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510826609.2,技术领域涉及:G06N3/0442;该发明授权基于双阶段优化架构深度学习模型参数优化器的构建方法是由孙旭彤;莫莉;刘梓轩;曹庆茹;效文静;刘万;张咪;黄昊东;鲍润罡;张勇传设计研发完成,并于2025-06-19向国家知识产权局提交的专利申请。
本基于双阶段优化架构深度学习模型参数优化器的构建方法在说明书摘要公布了:本发明属于深度学习时间序列预测领域,其公开了基于双阶段优化架构深度学习模型参数优化器的构建方法,其采用了步骤一中将传统优化器与周期性学习率进行结合的模型较优参数边界确定方法和步骤二中拟合模型训练参数与损失函数值的曲线关系的参数优化方法,该优化器的构建方法不仅打破了传统优化器仅依赖梯度方向更新的局限性,还能够稳定有效的提高深度学习模型在时间序列上的预测精度,为后续深度学习模型预测性能的提升提供新的研究方向。
本发明授权基于双阶段优化架构深度学习模型参数优化器的构建方法在权利要求书中公布了:1.基于双阶段优化架构深度学习模型参数优化器的构建方法,其特征在于,包括以下步骤:该方法应用于负荷数据预测领域, 步骤一、确定模型较优参数边界 确定深度学习模型较优参数边界的前期优化器,使用固定学习率αmax对深度学习模型进行训练,当达到预设的迭代次数t之后,将学习率调整为周期性学习率,提取学习率周期性变化过程的模型参数,以确定模型较优参数边界;周期性学习率调整方法选择为半余弦退火曲线的周期性学习率,其计算公式为: 其中,T为周期长度,αt为第t时刻的学习率,αmax为最大学习率,αmin为最小学习率,cos·表示余弦函数,modt,T表示t除以T的余数; 通过学习率的周期性变化获得模型较优参数边界具体步骤为:基于半余弦退火曲线的周期性学习率公式,设置学习率周期性变化时的周期长度T,总周期数k,循环开始前的迭代次数t,最大学习率αmax和最小学习率αmin;选择Adam优化器作为前期优化器,以最大学习率αmax进行深度学习模型参数训练;当训练迭代次数达到t次后,开始调整学习率为半余弦退火曲线的周期性学习率,使学习率在模型训练的过程中随迭代次数周期性地在最大学习率αmax和最小学习率αmin之间波动,同时提取学习率周期性变化过程中每个周期最后一个时间点的模型参数W及其所在时间点对应的损失值Loss;在模型训练结束后,得到k组模型参数及其损失值,上述模型参数在深度学习模型损失曲面上包围并形成了具有更小损失值的最优参数周围的模型较优参数边界; 步骤二、优化模型参数 将步骤一得到的较优参数与其对应的模型训练损失值进行拟合,通过拟合后的曲线逐渐寻找并得到深度学习模型最优参数。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人华中科技大学,其通讯地址为:430074 湖北省武汉市洪山区珞喻路1037号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。