Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 安徽大学钱付兰获国家专利权

安徽大学钱付兰获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉安徽大学申请的专利一种改进的卷积神经网络模型的滤波器软剪枝方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN117195998B

龙图腾网通过国家知识产权局官网在2025-08-29发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202311097640.4,技术领域涉及:G06N3/082;该发明授权一种改进的卷积神经网络模型的滤波器软剪枝方法是由钱付兰;张崇浩;晏焕钱;苏航;赵姝;张燕平;洪嘉成;陈海设计研发完成,并于2023-08-29向国家知识产权局提交的专利申请。

一种改进的卷积神经网络模型的滤波器软剪枝方法在说明书摘要公布了:本发明公开了一种改进的卷积神经网络模型的滤波器软剪枝方法,包括步骤:S1、对神经网络模型参数化设置;S2、对神经网络模型训练更新其参数,对BN层的缩放因子γ施加稀疏惩罚;S3、依据稀疏分布的缩放因子γ对部分卷积层滤波器参数置零;S4、依据参数置零情况进行剪枝,获取轻量化神经网络模型。本发明对神经网络模型中的滤波器软剪枝的流程进行了优化,通过去除软剪枝流程中的预剪枝Pre‑Pruning阶段,并结合融合历史梯度的参数优化器,使用不依赖于滤波器参数的剪枝标准即BN层的缩放因子γ,解决了软剪枝面对类ReLU激活函数时无法生效的问题,克服现有滤波器软剪枝方法的缺陷,从而发挥出软剪枝方法的潜力,获得更好的神经网络模型性能。

本发明授权一种改进的卷积神经网络模型的滤波器软剪枝方法在权利要求书中公布了:1.一种改进的卷积神经网络模型的滤波器软剪枝方法,其特征在于,包括以下步骤: S1、选取神经网络模型,对神经网络模型进行参数化设置; S2、对参数化设置后的神经网络模型进行训练,更新神经网络模型设置参数,在更新神经网络模型设置参数的同时对神经网络模型BN层的缩放因子γ进行稀疏惩罚; 输入数据的预处理包括:如果选用2D分类模型,则输入数据为图片,输入数据预处理包括统一图像大小和归一化处理,把输入数据处理后转换为张量类型的数据;如果选用3D分类模型,则输入数据为点云,输入数据预处理操作为点采样,把输入的点云数据处理后转换为张量类型的数据; 所述S2中更新神经网络模型设置参数的同时对神经网络模型BN层的缩放因子γ进行稀疏惩罚的步骤为: S221、依据神经网络模型输入数据和输出数据计算神经网络模型中每一个滤波器参数的梯度值,所述滤波器参数的更新公式为: 其中W为模型参数、η是学习率、为损失函数; S222、在损失函数中加入BN层缩放因子γ的损失,公式为: 其中,x,y为神经网络模型训练数据,x是输入数据,y为对应的真值标签,f代表神经网络模型,λ为稀疏惩罚幅度值,γ为缩放因子,Γ为神经网络模型中所有BN层的缩放因子γ的集合,g·为稀疏惩罚项; S3、依据稀疏惩罚后的缩放因子γ对神经网络模型部分卷积层滤波器参数置零; 所述S3中依据稀疏惩罚后的缩放因子γ对神经网络模型部分滤波器参数置零的步骤为: S221、遍历神经网络模型,统计神经网络模型每一个卷积层滤波器的数量M; S222、依据预设的剪枝率P,计算剪枝阈值T下标idx: S223、依据与卷积层相对应BN层的缩放因子γ,对卷积层内滤波器进行排序; S224、滤波器排序后,依据idx确定边界滤波器,边界滤波器对应的缩放因子γ的值为此卷积层剪枝阈值T; S225、对卷积层中缩放因子γ的值小于剪枝阈值T对应的滤波器参数置零; S4、依据卷积层滤波器参数置零情况对神经网络模型进行剪枝,获取轻量化神经网络模型。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人安徽大学,其通讯地址为:230000 安徽省合肥市经济技术开发区九龙路111号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由AI智能生成
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。