电子科技大学周军获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉电子科技大学申请的专利基于能量注意力机制的自适应压缩神经网络计算电路获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119398116B 。
龙图腾网通过国家知识产权局官网在2025-09-30发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411553642.4,技术领域涉及:G06N3/063;该发明授权基于能量注意力机制的自适应压缩神经网络计算电路是由周军;朱世健;肖剑彪;王恒鑫;杨政炜;张旭辉设计研发完成,并于2024-11-02向国家知识产权局提交的专利申请。
本基于能量注意力机制的自适应压缩神经网络计算电路在说明书摘要公布了:本发明公开了一种基于能量注意力机制的自适应压缩神经网络计算电路,涉及神经网络的硬件实现技术领域。本发明通过实现基于信号能量的压缩机制、以及基于神经网络的注意力压缩机制,通过多阶段压缩的处理方式简化了注意力机制的运算量,实现了压缩操作的低延时处理,该处理策略能够有效地过滤时间序列信号中的无关信号帧,从而缩小神经网络运算核心电路的输入特征图尺寸,进而降低神经网络运算时的运行功耗。同时,针对神经网络的权重数据的压缩实现了一种自适应压缩的神经网络计算电路,其实现了针对特征图的动态尺寸自适应,以及针对神经网络权重的压缩运算。本发明实现了神经网络的低功耗、低延迟运算。
本发明授权基于能量注意力机制的自适应压缩神经网络计算电路在权利要求书中公布了:1.基于能量注意力机制的自适应压缩神经网络计算电路,其特征在于,包括交互控制单元和存算控制单元;其中,交互控制单元包括特征图交互总线控制器、指令与网络参数交互总线控制器、交互请求与控制电路和输入数据流分配电路;存算控制单元包括指令解码与运算控制电路、自适应压缩存储器读写控制电路和神经网络运算电路; 特征图交互总线控制器和指令与网络参数交互总线控制器通过配置的片内总线交互协议,将神经网络计算电路挂载在片内的数据总线上,并和处理器核心进行通信; 特征图交互总线控制器用于将神经网络的输入特征图交互到电路内部,并将神经网络运算结果交互到神经网络计算电路外部;其中,神经网络的输入特征图为执行能量注意力压缩和神经网络注意力压缩后的输入特征图; 指令与网络参数交互总线控制器用于将神经网络运算所需的层指令、网络权重、网络偏置值、以及权重压缩索引交互到电路内部; 交互请求与控制电路用于向特征图交互总线控制器和指令与网络参数交互总线控制器产生交互请求信号,两个交互总线控制器接收到交互请求信号后则会启动交互,将神经网络运算所需的相关数据交互到神经网络计算电路内部、或者将神经网络运算结果交互到神经网络计算电路外部;交互请求与控制电路还产生交互控制信号,用于控制输入数据流分配电路的工作模式; 输入数据流分配电路用于对特征图交互总线控制器和指令与网络参数交互总线控制器交互输入的数据流进行解码,并将解码得到的输入特征图数据和网络参数数据分配到自适应压缩存储器读写控制电路中,以及将解码得到的指令数据分配到指令解码与运算控制电路中; 其中,交互输入的数据流包括输入特征图数据流和指令与网络参数数据流;输入特征图数据流格式字段包括:特征图帧尺寸、帧通道的帧头和特征图数据流载体;指令与网络参数数据流的字段包括:指令数据、偏置值数据、压缩索引数据和权重数据; 指令解码与运算控制电路用于在逐层计算神经网络时,根据自适应压缩存储器读写控制电路发送的当前层特征图尺寸信号对来自输入数据流分配电路的指令数据中的解码特征图尺寸信号进行指令修正,再生成运算与读写控制信号并发送至自适应压缩存储器读写控制电路和神经网络运算电路,以控制自适应压缩存储器读写控制电路的存储器读写状态,以及控制神经网络运算电路的运算状态; 自适应压缩存储器读写控制电路包括:特征图随机存取存储器、权重偏置值压缩索引随机存取存储器、存储器读写控制电路、M‑N选择器、探测器和序列1计数器; 特征图随机存取存储器用于存储神经网络各网络层的输入与输出特征图数据,并附带帧尺寸寄存器和帧通道寄存器,两个寄存器用于从输入特征图数据流的帧头中保存输入特征图的帧尺寸和帧通道数,生成当前特征图尺寸信号并发送给指令解码与运算控制电路,以修正解码指令数据,以及从运算核心数据流总控制器发出的运算与读写控制信号中提取运算输出尺寸信号并保存; 权重偏置值压缩索引随机存取存储器用于存储神经网络各网络层的权重数据、偏置值数据和压缩索引数据; 自适应压缩存储器读写控制电路的读写模式包括压缩读取和非压缩读写; 在非压缩读写模式下,存储器读写控制电路从特征图随机存取存储器中读取所需的输入特征图数据、从权重偏置值压缩索引随机存取存储器中读取所需的权重数据和偏置值数据,并将读取的数据发送到神经网络运算电路中进行运算,神经网络运算电路再将运算结果写回到特征图随机存取存储器中; 在压缩读写模式下,存储器读写控制电路先从权重偏置值压缩索引随机存取存储器中读取M长度的二进制压缩索引序列,再将M长度的二进制压缩索引分别送入序列1计数器和先导1的探测器,序列1计数器用于对二进制压缩索引“1”数据进行计算,并将计算结果作为压缩权重长度N送入存储器读写控制电路中,探测器用于责从M长度的压缩序列中查找出N个“1”数据所在的位置信息并送入M‑N选择器; 存储器读写控制电路收到压缩权重长度N后,读取N个压缩权重数据以及M个特征图数据,并将当前读取M个特征图数据送入M‑N选择器,M‑N选择器根据收到的N个位置信息,从M个特征图数据中选择N个指定位置的特征图数据并送入存储器读写控制电路;存储器读写控制电路将读取到的N个特征图数据和N个权重数据发送到神经网络运算电路中进行计算; 当前网络层运算完成后,存储器读写控制电路将神经网络运算电路输出的运算结果写入到特征图随机存取存储器中,作为下一层网络的输入特征图。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人电子科技大学,其通讯地址为:611731 四川省成都市高新区(西区)西源大道2006号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励