首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

基于多个权重集的存储器内处理 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:阿克塞尔拉人工智能私人有限公司

摘要:本发明特别地关于一种存储器内处理的方法,其目标为执行矩阵‑向量计算。方法依赖具有交叉阵列结构15的装置。交叉阵列结构包括N条输入线152和M条输出线153,其在定义N×M个单元155的交叉点处互连,其中N≥2且M≥2。单元包括相应存储器系统,每一个被设计为储存K个权重Wi,j,k,其中K≥2。因此,交叉阵列结构包括N×M个存储器系统,其能够储存K组N×M个权重。为了执行乘法累加MAC运算,方法首先通过针对每一个存储器系统从其K个权重中选择权重且将选定的权重设定为有效权重来使能N×M个单元的N×M个有效权重。接着,将编码N个分量的向量施加到交叉阵列结构的N条输入线。这使得后者基于向量和N×M个有效权重来执行MAC运算。最终,读出在M条输出线的输出中获得的输出信号以获得对应的值。这允许在交叉阵列处局部地使能不同组的权重,这使得可以局部地执行权重的轮替且相应地降低与存储器单元的数据交换的频率。继而,这减小了交叉阵列结构的空闲时间。因此,所提出的方法使得可以实质降低数据转移的频率,从而加速计算。另外,可预取权重,同时依据目前有效权重执行MAC运算。特别有益的是,预取步骤至少部分地通过流水线pipelining隐藏。本发明进一步关于相关的装置、系统及计算机程序产品。

主权项:1.一种存储器内处理方法,该方法包括:提供S10包括N条输入线152和M条输出线153的交叉阵列结构15,所述N条输入线152和所述M条输出线153在定义N×M个单元155的交叉点处互连,其中N≥2且M≥2,所述单元155包括相应的存储器系统157,每一个存储器系统157被设计为存储K个权重,K≥2,由此所述交叉阵列结构15包括存储K组N×M个权重的N×M个存储器系统;通过对于所述存储器系统157中的每一个,从其K个权重中选择权重并且将选定的权重设定为有效权重,来使能S70用于N×M个单元155的N×M个有效权重;将编码N个分量的向量的信号施加S82到所述交叉阵列结构15的所述N条输入线152,以使得所述交叉阵列结构15基于所述向量和所述N×M个有效权重,执行S84乘法累加运算或MAC运算;以及读出S86,S90在所述M条输出线153的输出中获得的输出信号,以获得对应的值。

全文数据:

权利要求:

百度查询: 阿克塞尔拉人工智能私人有限公司 基于多个权重集的存储器内处理

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

相关技术
相关技术
相关技术
相关技术