龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：国网江苏省电力有限公司扬州供电分公司;国网江苏省电力有限公司
摘要：本发明提供一种基于强化学习的电力大模型流水线冻结训练优化方法，主要包含两个部分：基于梯度和梯度变化量的冻结决策算法、基于强化学习的冻结训练优化方法。本发明首先设计了基于梯度和梯度变化量的冻结决策算法，以获得良好的冻结判断标准及冻结策略。然后针对如何在训练过程中动态调整冻结判断标准的阈值以适应不同时间点模型状态差异的问题，提出一种基于强化学习的冻结训练优化方法，以梯度变化量、梯度大小及冻结策略实施前后一定训练轮次所需时间等数据为基础，通过强化学习方法动态调整冻结判断标准阈值，从而在加速训练和保障精度中取得平衡，最终提高电力大模型训练效率。
主权项：1.一种基于强化学习的电力大模型流水线冻结训练优化方法，其特征在于：该方法包括：对电力调控系统中深度学习模型的流水线冻结训练优化建模，基于建模训练中的参数梯度和梯度变化量生成冻结判断策略；基于强化学习方法对冻结判断策略中的各项阈值大小进行动态调整，利用流水线并行训练方法降低强化学习策略网络的计算开销和显存占用。
全文数据：
权利要求：
百度查询： 国网江苏省电力有限公司扬州供电分公司 国网江苏省电力有限公司 一种基于强化学习的电力大模型流水线冻结训练优化方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号