买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜杭州电子科技大学申请的专利一种基于遗传算法的神经网络自适应分布式并行训练方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN115115052B 。

龙图腾网通过国家知识产权局官网在2025-05-27发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210963656.8，技术领域涉及：G06N3/126；该发明授权一种基于遗传算法的神经网络自适应分布式并行训练方法是由倪益杰;曾艳;张纪林;任永坚;袁俊峰;韩猛;徐梦楚设计研发完成，并于2022-08-11向国家知识产权局提交的专利申请。

本一种基于遗传算法的神经网络自适应分布式并行训练方法在说明书摘要公布了：本发明公开了一种基于遗传算法的神经网络自适应分布式并行训练方法。本方法首先将模型并行中算子放置问题转化整数线性规划问题，构建解空间，并简化解空间的规模。其次构建代价评估模型，评估线性规划问题解的优劣，指导两个种群之间进行迭代更新两组放置策略。然后当到达迭代更新的终止条件后，将两组放置策略转化为数据流图的算子放置策略，算子放置策略对模型进行训练，以选取最优分布式调度策略。最后利用得到的分布式调度策略，对待训练的模型进行分布式调度，并将数据集输入到的神经网络中进行分布式训练。本发明在保证解空间质量的前提下加快算法搜索速度，以细粒度评估算子放置策略的执行性能，有效避免陷入局部最优情况。

本发明授权一种基于遗传算法的神经网络自适应分布式并行训练方法在权利要求书中公布了：1.一种基于遗传算法的神经网络自适应分布式并行训练方法，其特征在于包括以下步骤：步骤1:将神经网络模型中算子放置问题转化整数线性规划问题；基于神经网络模型的数据流图和设备拓扑图构建解空间，并通过设置假设约束和算子分组约束条件简化解空间的规模：1-1，提取神经网络模型结构并组建设备资源组，抽象得到计算图GO,E和设备拓扑图D，在计算图GO,E中，顶点O表示神经网络模型的算子集合，E表示顶点间的有向边集合，设备拓扑图D是由M个计算设备组成；1-2，给定计算图GO,E和设备拓扑图D，在满足设备内存约束的前提下，寻找一组放置策略使得执行代价最小，从而将神经网络模型的算子在设备上的放置问题转化为整数线性规划问题，并基于数据流图和设备拓扑图构建解空间；1-3，通过分析同构集群内的设备特征以及神经网络模型执行特征提出两点假设：同构设备的计算和通信性能相同；算子的执行结束时间只与存在直接依赖关系的算子有关；通过上述假设将存在数据依赖关系的两个算子的放置情况约束为两种：其中一种是两个算子放在同一个设备上，另外一种是两个算子放置在不同设备上；1-4，随后提出算子分组约束，存在数据依赖关系的两个算子，若其中一个算子满足出度或入度为1的条件，便将这两个算子约束为同一组，并将组内的算子视为一个整体进行调度；步骤2:构建计算代价、通信代价和负载代价融合的代价评估模型，综合评估整数线性规划问题解的优劣，即算子放置策略的执行性能，并指导双种群遗传算法在两个放置策略之间，进行基因突变及基因互换迭代更新两组放置策略：2-1，构建计算代价、通信代价和负载代价融合的代价评估模型首先，分析影响神经网络模型执行性能的关键因素，采用神经网络模型中算子在设备上的真实执行时间，建立计算代价Li；采用神经网络模型中算子间跨设备通信的总张量大小，建立通信代价W；采用各个设备内存负载偏移和平均负载的比例之和，建立负载代价f；其次，通过综合考量计算代价、通信代价、负载代价以及模型实际训练过程的特征，建立计算代价、通信代价和负载代价融合的代价评估模型：πθ＝∑Li+λ×ΩW×1+f其中，πθ表示放置策略的执行代价，λ表示权重占比，Ω为张量大小和通信时间的线性拟合模型；2-2，基于双种群遗传算法迭代更新放置策略首先，利用放置策略的初始化方法，在解空间内生成两组带有初始算子放置信息的放置策略；其次，基于代价评估模型，指导双种群遗传算法的基因突变及基因互换方法，迭代更新两组放置策略中算子的放置信息；所述基因突变包含三个步骤：1基于最大代价优先原则，在每组放置策略中选择整体代价最大的算子对，作为基因突变算子；2利用基因变异方法通过改变基因突变算子的放置信息，生成新的放置策略；3以代价评估模型评估为指导，迭代更新放置策略；所述基因互换包含两个步骤：1基于优质算子对交叉互换方法，交换两组放置策略的基因信息；2以代价评估模型评估为指导，迭代更新放置策略；步骤3:当到达放置策略迭代更新的终止条件后，分别将两组放置策略转化为数据流图的算子放置策略，并在真实环境下根据迭代得到的算子放置策略对神经网络模型进行训练，选取执行时间最短的策略作为神经网络模型的最优分布式调度策略；步骤4：利用步骤3得到的最优分布式调度策略，对待训练的神经网络模型进行分布式调度，并将神经网络模型所需的数据集输入到的神经网络模型中进行分布式训练。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人杭州电子科技大学，其通讯地址为：310018 浙江省杭州市下沙高教园区2号大街；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。