Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
专利交易 商标交易 积分商城 国际服务 IP管家助手 科技果 科技人才 会员权益 需求市场 关于龙图腾 更多
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 中国人民解放军军事科学院国防科技创新研究院王璇铮获国家专利权

中国人民解放军军事科学院国防科技创新研究院王璇铮获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉中国人民解放军军事科学院国防科技创新研究院申请的专利基于FPGA的BERT网络推断高精度关键算子实现及其组合方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116484924B

龙图腾网通过国家知识产权局官网在2026-03-27发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310282267.3,技术领域涉及:G06N3/048;该发明授权基于FPGA的BERT网络推断高精度关键算子实现及其组合方法是由王璇铮;张光达;张拥军设计研发完成,并于2023-03-22向国家知识产权局提交的专利申请。

基于FPGA的BERT网络推断高精度关键算子实现及其组合方法在说明书摘要公布了:本发明公开了一种基于FPGA的BERT网络推断高精度关键算子实现及其组合方法,用于实现在FPGA中部署BERT模型中的算子模块,算子模块包括GELU函数,该方法包括:将GELU函数的值以查找表的形式预先存储于FPGA中,由FPGA根据输入数据查询查找表以获取对应的GELU函数值;或者,对GELU函数进行采样,确定能够拟合GELU函数的分段函数,在FPGA中以数组的形式存储分段函数的分段点的横纵坐标和分段斜率,由FPGA根据输入数据所处的函数区间,调用对应的分段函数的分段点横纵坐标和分段斜率计算GELU函数以获取对应的GELU函数值。本发明能够实现在FPGA平台上部署BERT模型的高精度硬件,能够充分发挥BERT模型面向自然语言处理任务的高性能,确保BERT模型能够在内存容量有限的边缘设备中部署应用。

本发明授权基于FPGA的BERT网络推断高精度关键算子实现及其组合方法在权利要求书中公布了:1.一种基于FPGA的BERT网络推断高精度关键算子实现及其组合方法,其特征在于,所述方法用于实现在FPGA中部署BERT模型中的算子模块,所述算子模块包括GELU函数,所述方法包括: 将GELU函数的值以查找表的形式预先存储于FPGA中,由FPGA根据输入数据查询查找表以获取对应的GELU函数值;或者,对GELU函数进行采样,确定能够拟合GELU函数的分段函数,在FPGA中以数组的形式存储分段函数的分段点的横纵坐标和分段斜率,由FPGA根据输入数据所处的函数区间,调用对应的分段函数的分段点横纵坐标和分段斜率计算GELU函数以获取对应的GELU函数值; 所述算子模块还包括Softmax模块,所述方法还包括: 根据FPGA实现的定点数格式要求确定外部函数的计算格式,利用外部函数对Softmax函数进行采样,确定能够拟合Softmax函数的分段的一次函数的组合,计算每个分段函数的分段点横纵坐标和分段斜率,将每个分段函数的分段点横纵坐标以数组的形式存储于FPGA中,将每个分段函数的分段斜率以数组的形式存储于FPGA中; 在FPGA中设置顺次连接的参数化缓冲模块、向量对比模块、第一向量相减模块、指数函数模块、第一向量求和模块和第一向量除法模块,所述参数化缓冲模块被配置为根据输入向量的长度动态调整缓冲大小,所述向量对比模块被配置为通过二叉对比树,选择出整组输入向量的最大值并输出,所述第一向量相减模块被配置为根据向量对比模块求得的最大值,将整个输入向量组依次与最大值相减并输出,所述指数函数模块被配置为以输入作为幂,通过利用存储的分段函数组合实现指数函数的映射,所述第一向量求和模块被配置为根据指数函数模块的输出,将这些数值求和并输出,所述第一向量除法模块被配置为以第一向量求和模块的输出作为分母,以输入向量各项作为分子,执行除法并输出; 各个模块还被配置为在完成自身工作并输出有效数据后,向其输出连接的模块发出激活信号,除所述参数化缓冲模块外的其余模块还被配置为在接收到激活信号后开始工作。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国人民解放军军事科学院国防科技创新研究院,其通讯地址为:100071 北京市丰台区东大街53号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。