Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 恭喜南京航空航天大学余天洋获国家专利权

恭喜南京航空航天大学余天洋获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网恭喜南京航空航天大学申请的专利一种卷积神经网络压缩方法及边缘侧FPGA加速器获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN114925823B

龙图腾网通过国家知识产权局官网在2025-05-06发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210515197.7,技术领域涉及:G06N3/082;该发明授权一种卷积神经网络压缩方法及边缘侧FPGA加速器是由余天洋;刘伟强;吴比设计研发完成,并于2022-05-12向国家知识产权局提交的专利申请。

一种卷积神经网络压缩方法及边缘侧FPGA加速器在说明书摘要公布了:本专利提供了一种卷积神经网络的压缩方法,以及匹配于此方法的边缘侧加速器。压缩方法包括包括一种有利于硬件加速的新型细粒度剪枝,其通过超参数N和M控制剪枝后模型的压缩比,通过超参数P控制剪枝过程中的分组大小以及加速器的结构;采用提出的增量动态剪枝及重训练方法以恢复剪枝后神经网络的识别准确率;对卷积神经网络中所有的非零权重进行量化至目标精度。本专利通过提出的压缩方法,得到一个压缩比可调的模型,其能够被提供的加速器高效计算。本专利中的边缘侧加速器匹配于提出的压缩方法,针对边缘侧应用场景的资源限制,可以进行结构调整以适应于不同具体场景。

本发明授权一种卷积神经网络压缩方法及边缘侧FPGA加速器在权利要求书中公布了:1.一种卷积神经网络边缘侧FPGA加速器,其特征在于,应用于卷积神经网络的压缩方法压缩后的卷积神经网络的加速,所述卷积神经网络的压缩方法,应用于卷积神经网络的卷积层和全连接层,包括:步骤一,采用细粒度剪枝方法对选定的需要剪枝的卷积层和全连接层进行动态剪枝;步骤二,采用增量动态剪枝及重训练的方法控制剪枝带来的网络性能下降;步骤三,对卷积神经网络中所有的非零权重进行量化至目标精度;所述的步骤一中,包括:设置第L层的k×k卷积层为被剪枝层,其权重参数矩阵WL铺平成k×k个二维矩阵,每个二维矩阵的两个维度分别对应权重参数矩阵WL的输入通道和输出通道维度;设置超参数P对每个二维矩阵进行分组,每组有P个元素;设置超参数N和M,在相邻的M个分组中,仅保留L1范数最大的N个分组;构建一个掩膜矩阵TL,其形状与所述的权重参数矩阵WL相同,TL中对应于WL中保留权重位置设置为1,剪去权重位置设置为0;神经网络前向计算时,用TL与WL逐元素相乘的结果作为权重参数进行计算;反向传播时,用梯度更新WL而非对于暂时未被设置为需要剪枝的卷积层和全连接层,其前向计算与反向计算过程无改变;当前重训练结束后,被剪枝层保存的参数为WL而非卷积神经网络边缘侧FPGA加速器包括:稀疏计算加速模块、权重缓冲区、输入特征图缓冲区、输出特征图缓冲区、激活与池化模块、权重寄存器组、控制模块;稀疏计算加速模块包含脉动阵列、部分和累加器、输入通道选择器,用于并行计算多个输入通道,输出多个通道的部分和数据;权重缓冲区、输入特征图缓冲区和输出特征图缓冲区用于临时存放从内存中读出或即将写入的数据;激活与池化模块在卷积层或全连接层的输出通道结果计算完成后,从稀疏计算加速模块的部分和累加器中取出结果进行ReLu操作或池化操作,再写入输出特征图缓冲区中,以待写入内存中进行保存;权重寄存器组用于辅助稀疏计算加速模块的运行;控制模块包含指令读取子模块、指令译码子模块,以及连接稀疏计算加速模块、权重缓冲区、输入特征图缓冲区、输出特征图缓冲区、激活与池化模块和权重寄存器组的控制逻辑;所述的稀疏计算加速模块包括多个输入通道选择器,每个输入通道选择器分别与脉动阵列中的每行第一个PE单元相连;稀疏计算加速模块中脉动阵列的行数和列数受边缘侧FPGA加速器的资源限制,其通过约束方程组求解出,而求解出的列数将会影响神经网络压缩方法里超参数P的选择;所述的稀疏计算加速模块中脉动阵列的行数和列数与边缘侧FPGA加速器中DSP资源的约束关系为:设置脉动阵列的行数为R,列数为C,其中列数C与超参数P在数值上相等,列出以下约束方程组: 其中:R×C为脉动阵列中使用的DSP数量;R×MN为稀疏计算加速模块的输入并行度。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人南京航空航天大学,其通讯地址为:211106 江苏省南京市江宁区将军大道29号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。