杭州电子科技大学;杭州八识空间人工智能信息技术有限公司李攀获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉杭州电子科技大学;杭州八识空间人工智能信息技术有限公司申请的专利异构环境的自适应数据并行优化分布式训练方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120633779B 。
龙图腾网通过国家知识产权局官网在2025-11-21发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511141058.2,技术领域涉及:G06N3/098;该发明授权异构环境的自适应数据并行优化分布式训练方法及系统是由李攀;陈丽芳;陈昊设计研发完成,并于2025-08-15向国家知识产权局提交的专利申请。
本异构环境的自适应数据并行优化分布式训练方法及系统在说明书摘要公布了:本发明公开了异构环境的自适应数据并行优化分布式训练方法及系统,该方法首先搭建由参数服务器与多个计算设备组成的混合拓扑架构,建立训练时间模型,综合考虑数据传输、本地计算和参数通信三类时延。其次基于训练时间模型,定义以最小化训练瓶颈为目标的调度优化函数。然后引入松弛变量与近似方法,将原始调度优化函数等价转化为凸优化问题,并构建对应的松弛函数。最后在松弛函数基础上,构造增强型拉格朗日函数,通过拉格朗日乘子法实现约束条件下的分布式求解,最终实现渐近最优的训练调度策略。本发明确保了具有不同能力的计算设备之间的负载平衡,并显著降低了通信开销,从而加速了训练过程,提高了整体效率。
本发明授权异构环境的自适应数据并行优化分布式训练方法及系统在权利要求书中公布了:1.异构环境的自适应数据并行优化分布式训练方法,其特征在于,包括以下步骤: S1、搭建由参数服务器与多个计算设备组成的混合拓扑架构; S2、基于混合拓扑架构,建立统一的训练时间模型,综合考虑数据分发、本地计算和参数通信三类时延,具体实现如下: 将参数服务器作为设备0,将数据子集与样本的大小的乘积除以传输带宽,计算每个样本从参数服务器分发到计算设备的分发时间表示; 在分布式训练中,每个设备的计算时间与分配给它的数据量相关,将设备的最大并行能力表示为,即设备同时处理的最大样本数,并且最大并行能力不得小于设备的批次,得到设备在一个周期内的计算时间; 每个计算设备从参数服务器PS接收当前全局模型参数,使用分配的数据子集更新其本地模型,并在每个epoch结束时将更新后的模型参数发送给参数服务器PS;用表示模型参数的大小;设备在一个epoch内用于数据并行性的通信时间; 构建训练时间模型:; S3、基于训练时间模型,定义以最小化训练瓶颈为目标的调度优化函数; 所述调度优化函数,包括两个约束条件:所有计算设备分配的数据总量等于训练所需的总体数据量,且每一计算设备的最大并行处理能力不小于其设备的训练批次数,具体如下: 基于分发时间、计算时间、通信时间,最小化数据并行训练过程的总时间,优化数据分配;数据并行调度优化问题表述为; S4、引入松弛变量与近似方法,将原始调度优化函数等价转化为凸优化问题,并构建对应的松弛函数; S5、在松弛函数基础上,构造增强型拉格朗日函数,通过拉格朗日乘子法实现约束条件下的分布式求解,最终实现渐近最优的训练调度策略。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人杭州电子科技大学;杭州八识空间人工智能信息技术有限公司,其通讯地址为:310018 浙江省杭州市钱塘区白杨街道2号大街1158号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励