买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：上海交通大学

摘要：本发明公开了一种基于数据稀疏性的超额行激活存算一体加速器设计方法，涉及存算一体架构的神经网络加速器设计领域，包括三部分，构建基于行激活数据的预测机制，建模外围电路器件限制与计算并行度，解决所述外围电路与所述计算并行度的匹配问题；构建行激活超额订阅机制，自适应地调整所述计算并行度和资源使用，解决稀疏数据下计算阵列和所述外围电路利用率低，资源冗余的问题；针对神经网络数据稀疏性的特点，重新规划控制流和数据流，解决了利用数据稀疏性而引入的复杂电路设计的问题。本发明通过预测输出数据规模，建模外围电路器件限制与计算并行度关系，根据预测自适应地调整计算并行度和资源使用，以最大程度利用外围电路资源。

主权项：1.一种超额行激活存算一体加速器设计方法，其特征在于，包括两部分，基于行激活数据的预测和超额订阅机制，基于神经网络数据的控制流和数据流的规划；所述基于行激活数据的预测和超额订阅机制，是指根据输入数据分析输出数据规模，调整计算并行度以最大程度利用外围电路设计；所述基于神经网络数据的控制流和数据流的规划，包含分析神经网络数据特征，提出二分法和滑动法提高设备稀疏挖掘的能力；所述基于行激活数据的预测和超额订阅机制，是指对输出数据规模进行评估，来确定超额订阅率，其思想如下， 即可以通过每行的最大权重和对应的输入数据和就可以预测所有的输出数据；当预测结果小于预先设计的数模转换器ADC量程，将应用超额订阅RAOS选择更大的计算并行度完成计算需求而不会影响准确性，否则，使用正常的行激活保证ADC的正常运行；所述二分法每次预测的样式按二分分割的方案产生，一次性对计算数据进行预测，对于未通过预测的数据使用更小的超额订阅率进行行激活；所述滑动法每次预测的样式均为最大超额订阅率，并将未通过预测的数据与后续计算数据合并进行新一轮的预测迭代，直到计算需求完成；RAOS建立在交叉开关上以增加其计算并行度，相比于传统架构，RAOS架构增加了三个模块，即ReRAM预测列、预测解码器和行激活控制器，其具体细节如下：所述预测列是指两个预测列配备了4X滑动预测能力，由于预测列仅检查输出数据是否超出预先设计的ADC范围，因此在将累积电流转换为电压后，使用电压比较器进行分析，两个预测列为每一列给出一个“通过失败”信号的预测向量；所述预测解码器将预测向量从预测列转换为选定的RAOS速率，由一个从向量中选择第一个“通过”信号的位置的前导检测器构成；所述行激活控制器同时给出预测行激活掩码和计算行激活掩码来用于预测列和交叉阵列行激活，其由8位掩码组成，分别控制8组独立的激活控制；控制器有一个内置的完成寄存器，用来保存已经完成计算的行组的数量，初始值为0，通过已完成的行组数量和预测结果可以推理相应的预测行激活掩码和计算行激活掩码，并为输入输出缓冲给出保持和完成信号，以便进行数据更新；基于这三个模块，RAOS交叉开关的工作原理包括如下步骤：首先，在预测阶段，预测列用预测行激活掩码从输入缓冲中获取输入数据，并将预测结果通过前导零电路进行检测，将选择的RAOS速率输出到行激活控制器；然后在计算阶段，交叉阵列使用由计算行激活掩码处理的输入数据以选定的RAOS速率计算乘法累加计算；两个掩码在每个计算周期都按所选的RAOS速率更新；预测和计算阶段是流水线式的，计算完成后，切片数据和以前一样在移位累加单元中合并，输入缓冲和输出缓冲可以组织为乒乓缓冲区，以将数据加载与预测和计算重叠进行，实现流水线操作。

全文数据：

权利要求：

百度查询： 上海交通大学 一种基于数据稀疏性的超额行激活存算一体加速器设计方法