买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
摘要:本发明公开一种基于算子分块的神经网络模型并行优化方法及装置,包括硬件设备感知的算子分块过程和加权算子调度过程;硬件设备感知的算子分块过程包括:对神经网络模型进行展开,构建计算图;分析各设备的硬件特征,并据此建立各硬件设备的计算能力模型;遍历计算图,基于硬件设备的计算能力模型,对算子进行分块;加权算子调度过程包括:根据每个算子的分块方案,更新计算图,为每个算子节点赋予权值,计算图成为一个加权有向无环图;遍历计算图,计算每个算子节点的高度,并将高度作为算子节点的优先级;找到入度为0的算子节点集合,将其中优先级最高的节点放入执行队列,并在计算图中删除该节点和与节点相连的边,得到算子的有限拓扑序列。
主权项:1.基于算子分块的神经网络模型并行优化方法,其特征在于,包括硬件设备感知的算子分块过程和加权算子调度过程;其中,所述硬件设备感知的算子分块过程包括:对神经网络模型进行展开,构建计算图;分析各设备的硬件特征,并据此建立各硬件设备的计算能力模型;遍历计算图,基于硬件设备的计算能力模型,对算子进行分块;所述加权算子调度过程包括:根据每个算子的分块方案,更新计算图,为每个算子节点赋予权值,计算图成为一个加权有向无环图;遍历计算图,计算每个算子节点的高度,并将高度作为算子节点的优先级;找到入度为0的算子节点集合,将其中优先级最高的节点放入执行队列,并在计算图中删除该节点和与节点相连的边,得到算子的有限拓扑序列。
全文数据:
权利要求:
百度查询: 武汉大学 基于算子分块的神经网络模型并行优化方法及装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。