买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:山东海量信息技术研究院
申请日:2024-11-19
公开(公告)日:2024-12-17
公开(公告)号:CN119149254A
专利技术分类:...资源分配,例如,中央处理单元[CPU]的[2006.01]
专利摘要:本发明公开了一种分布式计算系统的训练方法、装置、程序产品及介质,用于解决异构计算节点性能差异和通信效率低下的问题。该方案通过充分考虑每个计算节点的计算能力,实现了任务的动态分配和迭代优化;具体而言,通过获取每个计算节点的计算能力并为其分配与之相匹配的训练任务,避免了资源闲置和效率低下的问题;确定单次迭代时长并根据此调整通信间隔内的迭代次数,使得各计算节点可以在合适的时机进行数据交换,减少了频繁通信带来的网络带宽占用和延迟,不仅优化了训练过程的整体效率,还避免了计算节点之间的相互等待,计算节点在运行此训练过程时,降低了功耗和热量产生,也降低了通信开销,从而提高了计算节点的长期稳定性和可靠性。
专利权项:1.一种分布式计算系统的训练方法,其特征在于,应用于分布式计算系统,所述分布式计算系统包括多个异构的计算节点,所述分布式计算系统的训练方法包括:获取每个所述计算节点的计算能力;根据每个所述计算节点的计算能力为每个所述计算节点分配目标模型的训练任务,所述训练任务的任务量与所述计算能力呈正相关;确定每个所述计算节点执行和自身对应的训练任务的单次迭代时长;根据每个所述计算节点对应的单次迭代时长确定每个所述计算节点在通信间隔时间内的迭代次数;每隔所述通信间隔时间,获取每个所述计算节点完成各自迭代次数后的局部模型参数,并根据全部所述局部模型参数确定全局模型参数,直至满足迭代结束条件。
百度查询: 山东海量信息技术研究院 分布式计算系统的训练方法、装置、程序产品及介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。