中国电子科技集团公司第三十八研究所林广栋获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中国电子科技集团公司第三十八研究所申请的专利用于深度学习模型推理硬件加速的模型转换方法和系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115906963B 。
龙图腾网通过国家知识产权局官网在2025-10-17发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211166984.1,技术领域涉及:G06N3/063;该发明授权用于深度学习模型推理硬件加速的模型转换方法和系统是由林广栋;陆俊峰;洪一设计研发完成,并于2022-09-23向国家知识产权局提交的专利申请。
本用于深度学习模型推理硬件加速的模型转换方法和系统在说明书摘要公布了:本发明提供一种用于深度学习模型推理硬件加速的模型转换方法、系统、存储介质和电子设备,涉及深度学习技术领域。本发明包括:对深度学习模型中无法直接部署于硬件的原始的大卷积核,采用多层小卷积核替换大卷积核;根据大卷积核、各层小卷积核的权重差异,采用遗传算法分别确定各层小卷积核的权重;将转换后的深度学习模型部署在硬件上,用于获取输入特征图的卷积结果,从而获取深度学习模型的最终推理结果。通过多个串行执行的小卷积核替换大卷积核,多个小卷积核的权重通过大卷积核的权重直接计算得到,尽可能减少替换过程对输出的影响,不需要重新训练网络模型,且计算量小,实现直接部署网络模型。
本发明授权用于深度学习模型推理硬件加速的模型转换方法和系统在权利要求书中公布了:1.一种用于深度学习模型推理硬件加速的模型转换方法,其特征在于,包括: S1、对深度学习模型中无法直接部署于硬件的原始的大卷积核,采用多层小卷积核替换大卷积核; S2、根据大卷积核、各层小卷积核的权重差异,采用遗传算法分别确定各层小卷积核的权重; S3、将转换后的深度学习模型部署在硬件上,用于获取待处理图像的输入特征图的卷积结果; 所述原始的大卷积核的行数和列数均为奇数时,所述S2具体包括: S21、设定输入特征图在原始大卷积核的感受野中心位置的坐标为0,0,则该感受野左上角位置的坐标右上角位置的坐标为左下角位置的坐标为右下角位置的坐标为其余位置的坐标依次类推;其中,r、c分别表示大卷积核的行数、列数,各坐标的左半部分表示行索引号、右半部分表示列索引号;且大卷积核中各权重的坐标按同样的方法约定; 在未使用多个小卷积核进行替换前,原始的卷积计算结果如下: 其中,xj,k表示输入特征图在原始大卷积核的感受野中坐标j,k处的值;uj,k表示大卷积核中坐标j,k处的权重; S22、设定使用n层小卷积核替换原始大卷积核,第i层小卷积核的中心位置坐标为0,0,左上角位置的坐标右上角位置的坐标为左下角位置的坐标为右下角位置的坐标为其余位置的坐标依次类推;其中,ri、ci分别表示第i层小卷积核的行数、列数,均为奇数,且应满足:和 将上述计算过程层层代入卷积计算公式,直至替换至原始感受野中的特征图,并对所有原始感受野中的特征图参与计算的项执行合并同类项,分别提取特征图的值,获取最终计算结果表述方式如下: 其中,ui,s,t表示第i层小卷积核内部坐标s,t处的权重;对于合并前xj,k参与计算的任意一项,si为参与该项计算的第i层小卷积核权重的行索引号;ti为参与该项计算的第i层小卷积核权重的列索引号,应满足∑isi=j且∑iti=k,该项系数为合并同类项后,xj,k的系数为 S23、基于步骤S21和S22中的两个公式,以替换后的最终卷积结果与原始的卷积结果之间的误差最小化为目标,以输入特征图xj,k作为变量,则两式的系数之间的差异表示为: S24、设定S23公式中uj,k的值不变,以所有的ui,s,t作为待求解的变量,以使S23公式中的diff值最小为目标,采用遗传算法求解S23中的公式,分别获取各层小卷积核的权重ui,s,t; 或者 所述原始的大卷积核的行数或列数任一项为偶数时,所述S2具体包括: 1若行数r为偶数,且列数c为奇数 在替换后的多个小卷积核中首先使用一个高度为2、宽度为1的卷积核,使执行完此次卷积运算之后特征图的行数为r-1,成为奇数,再使用n层小卷积核,共n+1层小卷积核替换原始大卷积核,ri、ci分别表示后面n层小卷积核第i层小卷积核的行数、列数,均为奇数,且应满足:和之后,再按各层小卷积核与原始大卷积核的权重差异,通过遗传算法获取各层小卷积核的权重; 2若列数c为偶数,且行数r为奇数 在替换后的多个小卷积核中首先使用一个宽度为2、高度为1的卷积核,使执行完此次卷积运算之后特征图的列数为c-1,成为奇数,再使用n层小卷积核,共n+1层小卷积核替换原始大卷积核,ri、ci分别表示后面n层小卷积核第i层小卷积核的行数、列数,均为奇数,且应满足:和之后,再按各层小卷积核与原始大卷积核的权重差异,通过遗传算法获取各层小卷积核的权重; 3若行数r为偶数,且列数c也为偶数 在替换后的多个小卷积核中首先使用一个宽度为2、高度为2的卷积核,使执行完此次卷积运算之后特征图的行数为r-1,列数为c-1,均成为奇数,再使用n层小卷积核,共n+1层小卷积核替换原始大卷积核,ri、ci分别表示后面n层小卷积核第i层小卷积核的行数、列数,均为奇数,且应满足:和之后,再按各层小卷积核与原始大卷积核的权重差异,通过遗传算法获取各层小卷积核的权重。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国电子科技集团公司第三十八研究所,其通讯地址为:230088 安徽省合肥市高新区香樟大道199号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励