恭喜山东海量信息技术研究院郭振华获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜山东海量信息技术研究院申请的专利分布式训练故障恢复方法及设备、介质和计算机程序产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119201553B 。
龙图腾网通过国家知识产权局官网在2025-05-09发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411732216.7,技术领域涉及:G06F11/14;该发明授权分布式训练故障恢复方法及设备、介质和计算机程序产品是由郭振华;曹芳;高开;闫瑞栋;邱志勇设计研发完成,并于2024-11-29向国家知识产权局提交的专利申请。
本分布式训练故障恢复方法及设备、介质和计算机程序产品在说明书摘要公布了:本发明公开了一种分布式训练故障恢复方法及设备、介质和计算机程序产品,涉及计算机技术领域,该方法包括:在分布式训练开始时,启动第一线程、第二线程、第三线程;其中,所述第一线程用于进行数据计算,所述第二线程用于同步梯度数据,所述第三线程用于存储检查点数据;在分布式训练的过程中,当所述第二线程启动梯度数据同步时,将梯度数据同步标志位设置为第一预设值,当结束梯度数据同步时,将所述梯度数据同步标志位设置为第二预设值;当所述第三线程检测到所述梯度数据同步标志位为所述第二预设值时,存储检查点数据;当所述分布式训练系统故障时,基于存储的检查点数据进行故障恢复。本发明避免了存储检查点数据对训练效率的影响。
本发明授权分布式训练故障恢复方法及设备、介质和计算机程序产品在权利要求书中公布了:1.一种分布式训练故障恢复方法,其特征在于,应用于分布式训练系统中的服务器,所述方法包括:在分布式训练开始时,启动第一线程、第二线程、第三线程;其中,所述第一线程用于进行数据计算,所述第二线程用于同步梯度数据,所述第三线程用于存储检查点数据;在分布式训练的过程中,当所述第二线程启动梯度数据同步时,将梯度数据同步标志位设置为第一预设值,当结束梯度数据同步时,将所述梯度数据同步标志位设置为第二预设值;当所述第三线程检测到所述梯度数据同步标志位为所述第二预设值时,存储检查点数据,以利用梯度数据同步的通信间隙进行检查点数据的存储;当所述分布式训练系统故障时,基于存储的检查点数据进行故障恢复。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人山东海量信息技术研究院,其通讯地址为:250000 山东省济南市高新技术开发区国家信息通信国际创新园;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。