买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：中国电子科技集团公司第五十八研究所

摘要：本发明公开一种基于存内计算电路的卷积神经网络量化方法，属于卷积神经网络量化领域。用卷积神经网络针对卷积层的激活值、权重，设计量化网络模型；挑选1000个样本作为量化数据集，50个样本为一组，分成20组；计算权重量化系数，固定到量化网络模型中；计算激活值量化系数；根据存内计算电路数据流过程，设计计算ivc系数的量化网络模型，选100个样本为量化样本，计算ivc系数；将卷积层权重、偏移量转化为整数形式，ivc系数映射为电路中电阻的电导值，卷积层激活值和权重量化系数、ivc系数以及下一层卷积激活值量化系数进行融合，并转化成a*2b形式，设计量化后卷积网络在存内计算电路推理网络模型，实现卷积神经网络在存内计算电路的量化部署。

主权项：1.一种基于存内计算电路的卷积神经网络量化方法，其特征在于，包括：步骤S1：用预先训练好的卷积神经网络模型，针对卷积层的激活值、权重设计量化网络模型，其中，权重部分采用逐通道均匀对称量化，激活值部分采用逐层均匀对称量化；步骤S2：挑选1000个样本作为量化数据集，这些数据涵盖训练集对像所有类型，随机选取50个样本为一组，分成20组数据，依次送入量化网络模型；步骤S3：采用最大值法计算每层卷积各通道的权重量化系数，并将结果固定到量化网络模型中；步骤S4：结合全浮点型卷积网络推理模型，采用均方误差法计算激活值量化系数，逐卷积层计算，再将20组数据计算的量化系数求均值，求得每层卷积的激活值量化系数；步骤S5：针对存内计算电路中ivc系数，通过软件仿真卷积操作在存内计算电路数据流处理过程，结合激活值、权重量化结果，设计计算ivc系数的量化网络模型；步骤S6：挑选包含训练集对象各种类型的100个样本作为ivc系数量化数据集，随机选5个样本为一组，分成20组数据，依次送入ivc系数量化网络模型；步骤S7：采用KL散度法计算ivc系数，逐卷积层计算，再将20组量化数据计算的ivc系数求均值，求得每层卷积对应ivc系数；步骤S8：将卷积层权重、偏移量转换为整数形式，ivc系数映射成电路中电阻的电导值，卷积层激活值、权重量化系数、ivc系数以及下一层卷积激活值量化系数进行融合，并转化为a*2b形式，其中，a、b为整形，设计量化后卷积网络在存内计算电路推理网络模型，实现卷积神经网络在存内计算电路的量化部署。

全文数据：

权利要求：

百度查询： 中国电子科技集团公司第五十八研究所 一种基于存内计算电路的卷积神经网络量化方法