买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:华为技术有限公司
摘要:本申请公开了一种数据处理方法、数据处理装置及计算机可读介质,该方法包括:将待处理的数据输入到目标网络;所述目标网络为包含至少一个卷积层的神经网络,一个参数集合为计算特征图中的一个点所用到的卷积核和偏置的集合,所述目标网络中的第一参数集合和第二参数集合为同一卷积层中计算特征图的不同点所用到的卷积核和偏置的集合,所述第一参数集合和所述第二参数集合包含的参数均为量化后的参数且对应不同的量化系数,所述目标网络用于对输入数据进行目标处理;通过所述目标网络对所述待处理的数据进行所述目标处理,得到输出结果;可以大大提高目标处理的精度,并节省计算时间。
主权项:1.一种数据处理方法,其特征在于,包括:将待处理的数据输入到目标网络;所述目标网络为包含至少一个卷积层的神经网络,一个参数集合为计算特征图中的一个点所用到的卷积核和偏置的集合,所述目标网络中的第一参数集合和第二参数集合为同一卷积层中计算特征图的不同点所用到的卷积核和偏置的集合,所述第一参数集合和所述第二参数集合包含的参数均为量化后的参数且对应不同的量化系数,所述目标网络用于对输入数据进行目标处理;通过所述目标网络对所述待处理的数据进行所述目标处理,得到输出结果,所述待处理的数据为图像数据,所述目标处理为目标检测、图像分割、目标识别、目标分类、或目标跟踪中的任一项;所述第一参数集合和所述第二参数集合包含的参数均为整型数据,所述通过所述目标网络对所述待处理的数据进行所述目标处理,得到输出结果包括:计算所述第一参数集合包含的卷积核与中间数据的卷积或点积,得到第一数据,所述中间数据为所述第一参数集合所属的卷积层输入的数据;计算所述第一参数集合包含的偏置和所述第一数据之和,得到第二数据;对所述第二数据进行反量化,得到第三数据,所述第三数据为浮点型数据;将所述第三数据存入缓冲区,所述第三数据用于计算所述输出结果。
全文数据:
权利要求:
百度查询: 华为技术有限公司 数据处理方法、数据处理装置及计算机可读介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。