买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:华为技术有限公司
摘要:本公开涉及用于在网络中执行分布式神经网络neuralnetwork,NN推理的第一设备和多个第二设备。每个设备包括NN。所述第一设备的所述NN接收所述第二设备中包括的所述NN的激活向量作为输入,并基于所述输入推理最终结果。除了所述激活向量外,每个第二设备还确定并向所述第一设备提供局部相关性信息,使得所述第一设备能够基于所述局部相关性信息和所述第二设备的所述激活向量确定全局相关性信息。基于所述确定的全局相关性信息,所述第一设备为推理阶段选择一个或多个第二设备,并可以根据所述全局相关性信息分配资源。因此,可以优化参与的第二设备并高效利用资源。可以提高所述NN推理的性能和准确性。
主权项:1.一种用于通信网络的第一设备110,其中,所述通信网络包括至少两个第二设备120、140,其中,所述第一设备110和所述至少两个第二设备120、140中的每一个设备包括至少一个神经网络NN112、122、142,其中,所述第一设备110用于:获取所述至少两个第二设备的所述NN的输出123、143;获取所述至少两个第二设备的局部相关性信息125、145,其中,每个局部相关性信息125、145对应于所述至少两个第二设备中的一个第二设备的所述至少一个NN的第一输入121、141;对于每个获取的输出123、143,基于所述NN的所述获取的输出123、143和所述局部相关性信息125、145确定全局相关性信息;基于所述确定的全局相关性信息,从所述至少两个第二设备120、140中选择一个或多个第二设备220、260;将对应于所述选择的一个或多个第二设备的一个或多个输出304、305作为第二输入提供给所述第一设备的所述至少一个NN;基于所述第二输入运行所述第一设备的所述至少一个NN。
全文数据:
权利要求:
百度查询: 华为技术有限公司 用于分布式神经网络的设备调度的装置和方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。