昆山市工业技术研究院有限责任公司;东南大学苏州研究院陆生礼获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉昆山市工业技术研究院有限责任公司;东南大学苏州研究院申请的专利面向非结构化稀疏的动态匹配非零值的神经网络加速器获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116258188B 。
龙图腾网通过国家知识产权局官网在2025-11-04发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310261151.1,技术领域涉及:G06N3/063;该发明授权面向非结构化稀疏的动态匹配非零值的神经网络加速器是由陆生礼;路雨麒;杨啸风;梁天柱设计研发完成,并于2023-03-17向国家知识产权局提交的专利申请。
本面向非结构化稀疏的动态匹配非零值的神经网络加速器在说明书摘要公布了:本发明公开面向非结构化稀疏的动态匹配非零值的神经网络加速器,属于计算、推算或计数的技术领域。加速器架构包括:处理模块、负载平衡模块、后处理模块、稀疏编码模块、控制单元、输入缓存模块、权重缓存模块、输出缓存模块。通过稀疏编码模块对输入激活张量进行片上编码,避免对无效数据的存储及搬运,从而提高加速器整体能效。负载平衡模块对稀疏张量进行标记后动态分配,有效缓解输入激活张量不规整造成的计算单元负载不均衡问题。PE的非零值匹配单元通过bitmap索引高效匹配非零对,同时利用了权重和激活两方面的稀疏性,跳过零值参与的无效计算从而增加处理效率,从而实现对非结构化稀疏的神经网络的高效推理。
本发明授权面向非结构化稀疏的动态匹配非零值的神经网络加速器在权利要求书中公布了:1.面向非结构化稀疏的动态匹配非零值的神经网络加速器,其特征在于,包括: 稀疏编码模块,用于从外部存储读取输入激活张量或者接收后处理模块输出的当前通道卷积运算结果,对接收的数据逐点按通道进行bitmap格式的稀疏编码,输出包含有效非零数据及bitmap索引的当前通道输入激活张量; 输入缓存模块,用于缓存稀疏编码模块输出的当前通道输入激活张量,按照卷积窗口顺序传输当前通道输入激活张量至负载平衡模块; 权重缓存模块,用于缓存从外部存储读取的稀疏编码后的权重张量,采用广播的方式输出当前通道的权重张量至计算处理模块; 负载平衡模块,用于根据卷积窗口标号对接收的当前通道输入激活张量进行标号和分组,标记每组当前通道输入激活张量的稀疏度,将标记稀疏度后的当前通道输入激活张量按组输入计算处理模块,在接收到处理单元传输的计算完成反馈信号后,在未输入计算处理模块的各组当前通道输入激活张量中选择稀疏度最低即计算量最大的一组当前通道输入激活张量,传输稀疏度最低的一组当前通道输入激活张量至最先完成卷积运算的处理单元; 计算处理模块,用于对当前通道激活张量和当前通道权重张量进行卷积运算,各处理单元根据一组当前通道输入激活张量的bitmap索引对非零对数据进行卷积运算,处理单元完成对应一个卷积窗口的运算后按照所处理的当前通道激活张量对应的卷积窗口标号输出卷积运算结果至输出缓存模块,最先完成卷积运算的处理单元传输计算完成反馈信号至负载平衡模块,最先完成卷积运算的处理单元接收到稀疏度最低的一组当前通道输入激活张量后进行下一组当前通道输入激活张量和当前通道权重张量的卷积运算,直至处理单元完成各组当前通道输入激活张量和当前通道权重张量的卷积运算后,读取下一通道激活张量和下一通道权重张量后开始下一通道的卷积运算,输出当前通道的卷积运算结果; 输出缓存模块,用于按照卷积窗口标号缓存当前通道的卷积运算结果; 后处理模块,用于对当前通道的卷积运算结果进行后处理后输出,在整个神经网络完成卷积运算后输出计算结果至外部存储;及, 控制单元,与负载平衡模块、计算处理模块、后处理模块、稀疏编码模块交互顶层状态机信息,用于控制负载平衡模块、计算处理模块、后处理模块、稀疏编码模块的运行。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人昆山市工业技术研究院有限责任公司;东南大学苏州研究院,其通讯地址为:215300 江苏省苏州市昆山市玉山镇祖冲之南路1699号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励