买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉之江实验室申请的专利一种用于分布式环境下多深度学习任务的异构GPU分配系统和方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114820278B 。

龙图腾网通过国家知识产权局官网在2025-07-25发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210463699.X，技术领域涉及：G06F9/50；该发明授权一种用于分布式环境下多深度学习任务的异构GPU分配系统和方法是由周方;何水兵;秦亦;朱春节;方启明;曾令仿设计研发完成，并于2022-04-29向国家知识产权局提交的专利申请。

本一种用于分布式环境下多深度学习任务的异构GPU分配系统和方法在说明书摘要公布了：本发明属于人工智能下的深度学习领域，公开了一种用于分布式环境下多深度学习任务的异构GPU分配系统和方法，所述系统包括GPUProfile模块、任务信息采集模块、GPU选择模块和深度学习训练模块；本发明的一种用于分布式环境下多深度学习任务的异构GPU分配方法可以通过将不同计算能力的GPU分配给对应需求的任务，将模型层次复杂且批次数据量大的任务适配到性能最佳的GPU且显存足够存储的节点上运行，加快需要更长时间做深度学习训练的任务，从而明显提高异构环境下的多任务执行效率；而且当多深度学习任务并发执行，多深度学习能够整体更快地完成，可以节约程序员或用户等待结果的时间。

本发明授权一种用于分布式环境下多深度学习任务的异构GPU分配系统和方法在权利要求书中公布了：1.一种用于分布式环境下多深度学习任务的异构GPU分配方法，其特征在于，包括如下步骤： S1，多深度学习训练任务初始化； S2，多深度学习训练任务冷启动； S21，根据任务的模型类型作为第一优先级排序因素，对所有任务按任务的深度学习训练网络层次大小进行排序； S22，根据任务的批次数据大小作为第二优先级排序因素，对所有任务按任务深度学习训练的数据批次大小再进行排序； S23，根据GPU的计算能力作为第一优先级排序因素，对所有GPU按GPU计算能力强弱进行排序； S24，根据GPU的显存大小作为第二优先级排序因素，对所有GPU按GPU显存大小再进行排序； S25，然后根据S22，S24步骤排好的顺序，从第一个到最后一个GPU依次按照该顺序分配给排好序第一个到最后一个任务，一一映射的信息记录在全局GPU分配表中，作为冷启动的分配方案； S3，多深度学习训练任务GPU方案动态调整； S31，当前各个任务都已经执行一次min-batch的批次数据训练，通过日志记录的每个任务当前批次数据的训练运行时间，并根据多任务的批次数据时间，求得其中时间值最大的，即得到当前GPU分配方案的最长运行时间，记录为Tcur； S32，当前的GPU分配方案里的多任务启动深度学习训练，各个任务的第一个batch批次数据训练结束时，计算得到每个任务的批次数据训练运行时间，即全局运行时间列表中的信息，将全局运行时间列表中记录的任务运行时间最长的和运行时间最短的任务的GPU重新做分配，让计算能力更强的GPU去执行当前运行时间最长的任务，计算能力相对较弱的GPU来执行任务运行时间最短的任务，即得到新的GPU分配方案，并在每个任务的下一个batch深度学习训练的运行时间，再求得新的GPU分配方案的最长运行时间，记录为Tnext，若新的方案执行效率优于前一个方案，将整体最优性能记录为Tbest，并将新的GPU分配方案修改在全局GPU分配表中； S33，当前多任务的每个任务的批次数据都已完成运行，并把运行时间记录在全局运行时间列表，这个时刻GPU分配算法会更新GPU的分配方案，修改在全局GPU分配表中，分配方案会在各个任务未启动做下一批次数据的深度学习训练时候，将自动设定参数指定任务在对应GPU做深度学习训练； S34，在各个任务的第一个Epoch阶段，GPU选择模块里的分配算法通过不断取各个任务的batch数据进行训练迭代，来调整方案到执行效率达到最优，当前每个任务的深度学习训练的第一个Epoch训练完，选择出一个多任务执行效率最优的方案，作为各个任务接下来多轮深度学习训练的最终方案； S4，多深度学习训练任务循环迭代。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人之江实验室，其通讯地址为：311100 浙江省杭州市余杭区中泰街道之江实验室南湖总部；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。