杭州电子科技大学朱万乾获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉杭州电子科技大学申请的专利基于多尺度权重分析的网络剪枝方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119918608B 。
龙图腾网通过国家知识产权局官网在2026-01-16发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411866668.4,技术领域涉及:G06N3/082;该发明授权基于多尺度权重分析的网络剪枝方法及系统是由朱万乾;孙闽红设计研发完成,并于2024-12-18向国家知识产权局提交的专利申请。
本基于多尺度权重分析的网络剪枝方法及系统在说明书摘要公布了:本发明公开了一种基于多尺度权重分析的网络剪枝方法及系统。本发明方法步骤如下:S1、加载需要轻量化的预训练网络模型;S2、基于梯度分析方法计算步骤S1模型中各卷积层归一化后的敏感度值;S3、根据步骤S2得到的敏感度值,计算各卷积层的剪枝比例,根据剪枝比例计算各层需剪除的通道数量;S4、构建基于L2范数、欧氏距离及KL散度的多尺度权重分析模型,计算预训练网络模型各卷积层中通道的重要性得分,根据步骤S3得到该层需剪除的通道数量,对得分低于预定的剪枝比例的通道执行剪枝操作;S5、对剪枝后的模型进行微调重训练。本发明通过精准评估通道冗余性和重要性,在相同的剪枝比例下可进一步提升图像识别的正确率。
本发明授权基于多尺度权重分析的网络剪枝方法及系统在权利要求书中公布了:1.基于多尺度权重分析的网络剪枝方法,其特征是,具体包括如下步骤: S1、加载需要轻量化的预训练网络模型; S2、基于梯度分析方法计算步骤S1模型中各卷积层归一化后的敏感度值; S3、根据步骤S2得到的敏感度值,计算各卷积层的剪枝比例,根据剪枝比例计算各卷积层需剪除的通道数量; S4、构建基于L2范数、欧氏距离及KL散度的多尺度权重分析模型,计算预训练网络模型各卷积层中通道的重要性得分,根据步骤S3得到该层卷积需剪除的通道数量,对得分低于预定的剪枝比例的通道执行剪枝操作; S5、对剪枝后的模型进行微调重训练; 步骤S2具体如下: S21、加载代表性的输入数据样本数据集,根据预训练网络模型中使用的损失函数,执行前向传播,计算模型输出的损失函数L: 其中,N表示样本数据集的总数量,yi表示第i个样本的真实标签,表示模型对该样本的预测输出,表示单个样本的损失; S22、对模型执行反向传播,计算损失L关于第l层第i个通道的卷积核权重的梯度: 其中,表示偏导数,表示第l层第i个通道的卷积核权重矩阵,表示第l层第i个通道的卷积核权重对损失L的梯度值; S23、计算第l层所有卷积通道权重的梯度值的均方根,作为第l层的敏感度值Sl: 其中,表示第l层第i个通道的卷积核权重对损失L的梯度值,n表示第l层权重的总数量; S24、将所有卷积层的敏感度值进行归一化,得到第l层的敏感度归一化值: 其中,Sk表示第k层的敏感度值,K表示预训练模型卷积层的总层数,Sl表示第l层的敏感度值。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人杭州电子科技大学,其通讯地址为:310018 浙江省杭州市钱塘区白杨街道2号大街1158号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励