Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 南京大学王中风获国家专利权

南京大学王中风获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉南京大学申请的专利应用于Transformer神经网络的硬件加速器及其计算方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN114118344B

龙图腾网通过国家知识产权局官网在2025-07-25发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202010900182.3,技术领域涉及:G06N3/0464;该发明授权应用于Transformer神经网络的硬件加速器及其计算方法是由王中风;路思远;王美琪;梁双;林军设计研发完成,并于2020-08-31向国家知识产权局提交的专利申请。

应用于Transformer神经网络的硬件加速器及其计算方法在说明书摘要公布了:本申请公开了应用于Transformer神经网络的硬件加速器及其计算方法,该硬件加速器包括:数据存储模块、脉动阵列模块、偏置相加模块、点积注意力函数运算模块、激活函数运算模块、残差相加模块、层归一化函数运算模块及控制模块。脉动阵列模块包括多个用于执行矩阵计算的基本运算单元,控制模块用于控制硬件加速器的计算流程。基于能够执行Transformer神经网络中所有矩阵计算的脉动阵列模块,上述硬件加速器可有效提高Transformer神经网络的运算速度及效率。

本发明授权应用于Transformer神经网络的硬件加速器及其计算方法在权利要求书中公布了:1.一种应用于Transformer神经网络的硬件加速器,其特征在于,包括: 数据存储模块,包括输入矩阵存储单元、权重矩阵存储单元、偏置矩阵存储单元及临时矩阵存储单元,所述输入矩阵存储单元的输入端作为整个硬件加速器的输入接口,所述输入矩阵存储单元、所述权重矩阵存储单元及所述临时矩阵存储单元的输出端均接至脉动阵列模块的输入端,所述偏置矩阵存储单元的输出端接至偏置相加模块的输入端,所述权重矩阵存储单元用于存储第一权重矩阵、第二权重矩阵、第三权重矩阵、第四权重矩阵、第五权重矩阵及第六权重矩阵,所述第四权重矩阵、第五权重矩阵及第六权重矩阵均被纵向分割成多个子矩阵,每个子矩阵的列数与第一权重矩阵的列数一致,所述第一权重矩阵、第二权重矩阵以及第三权重矩阵为多层注意力层的基本运算单元; 脉动阵列模块,所述脉动阵列模块包括多个用于执行矩阵计算的基本运算单元,所述基本运算单元的行数与多头注意力层中任一输入矩阵的行数一致,所述基本运算单元的列数与所述第一权重矩阵的列数一致,所述脉动阵列模块的输出端接至偏置相加模块的输入端、点积注意力函数运算模块的输入端及所述临时矩阵存储单元的输入端; 偏置相加模块,包括多个加法器,所述加法器的数量与所述多头注意力层中任一输入矩阵的行数一致,所述偏置相加模块的输出端接至所述临时矩阵存储单元的输入端、激活函数运算模块的输入端及残差相加模块的输入端; 点积注意力函数运算模块,所述点积注意力函数运算模块的输出端接至所述临时矩阵存储单元的输入端; 激活函数运算模块,所述激活函数运算模块的输出端接至所述临时矩阵存储单元的输入端; 残差相加模块,包括多个加法器,所述加法器的数量与所述多头注意力层中任一输入矩阵的行数一致,所述残差相加模块的输入端接至所述输入矩阵存储单元的输出端,输出端接至层归一化函数运算模块的输入端; 层归一化函数运算模块,所述层归一化函数运算模块的输出端作为整个硬件加速器的输出接口; 控制模块,所述控制模块分别接至所述数据存储模块、脉动阵列模块、偏置相加模块、点积注意力函数运算模块、激活函数运算模块、残差相加模块及层归一化函数运算模块。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人南京大学,其通讯地址为:210023 江苏省南京市栖霞区仙林大道163号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。