Document
拖动滑块完成拼图
首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

基于混层级精度运算的稀疏神经网络处理器、方法 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

摘要:本申请提供的一种基于混层级精度运算的稀疏神经网络处理器,包括:权重缓存模块、激活值缓存模块、激活值索引模块、乘累加运算模块及输出缓存模块,乘累加运算模块包括乘累加运算单元及寄存器,乘累加运算单元的精度为预设的第一固定位宽。权重缓存模块中存储有压缩后的稀疏权重,每次卷积计算时,权重缓存模块先进行解码,然后输出非零权重值及非零权重位置信息,激活值索引模块根据非零权重位置信息输出相应的激活值,乘累加单元采用固定精度运算模式,结合寄存器,实现对可变精度数据的处理。本申请提供的稀疏神经网络处理器既能在高并行度下加载和操作非零权重数据,又能支持混层级精度计算。

主权项:1.一种基于混层级精度运算的稀疏神经网络处理器,其特征在于,包括:权重缓存模块、激活值缓存模块、激活值索引模块、乘累加运算模块及输出缓存模块,所述乘累加运算模块包括乘累加运算单元及寄存器,所述乘累加运算单元的精度为预设的第一固定位宽;权重缓存模块用于获取压缩后的稀疏权重,并将所述压缩后的稀疏权重进行分行存储,其中每行存储的数据宽度为所述第一固定位宽;还用于在卷积运算过程中对所述压缩后的稀疏权重进行解码,将解码得到的非零权重值按行顺次输出至所述乘累加运算单元,以及将解码得到的非零权重位置信息按行顺次输出至所述激活值索引模块;激活值缓存模块用于分行存储神经网络的激活值,其中每行存储的数据宽度为所述第一固定位宽;还用于在卷积运算过程中对所述激活值进行读取,按行顺次输出至所述激活值索引模块;激活值索引模块用于根据接收到的每行非零权重位置信息,对接收到的每行激活值进行选取,并将选取得到的激活值按行顺次输出至所述乘累加运算单元;所述乘累加运算单元用于对接收到的每行激活值及每行非零权重值进行两两乘累加运算,获取多个乘累加运算结果;还用于判断是否对每个所述乘累加运算结果执行移位操作,并在判断结果为否的情况下,将所述乘累加运算结果直接输出至所述寄存器,在判断结果为是的情况下,对所述乘累加运算结果执行移位之后再输出至所述寄存器;所述寄存器用于暂时存储所述多个乘累加运算结果,并在最终卷积运算完成后将所述多个乘累加运算结果输出至所述输出缓存模块。

全文数据:

权利要求:

百度查询: 南京风兴科技有限公司 基于混层级精度运算的稀疏神经网络处理器、方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。