龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：中国移动通信有限公司研究院;中国移动通信集团有限公司
摘要：本发明提供一种神经网络压缩方法、装置和存储介质，属于计算机视觉领域。所述神经网络压缩方法，通过对训练后的神经网络的每一指定卷积层进行逐层执行如下操作：在所述指定卷积层后分别添加编码层和激活层，得到待压缩的神经网络；采用训练图像集和验证图像集，将所述待压缩的神经网络训练m个迭代，直到所述激活层输出的特征向量的稀疏性满足第一阈值；根据所述激活层输出的特征向量和第二阈值，删除所述指定卷积层中的冗余通道，获取剪枝后的指定卷积层；最后，获得对所有指定卷积层都完成剪枝后的压缩后的神经网络模型；通过上述方法实现对通过对剪枝方法的优化，实现对卷积神经网络的压缩效果的优化。
主权项：1.一种神经网络压缩方法，其特征在于，所述方法包括：针对训练后的神经网络中的每一指定卷积层，依次执行以下操作：在所述指定卷积层后分别添加编码层和激活层，得到待压缩的神经网络；所述编码层用于对所述指定卷积层输出的特征进行转化和提取；所述激活层用于对所述编码层输出的特征进行归一化映射；采用训练图像集和验证图像集，将所述待压缩的神经网络训练m个迭代，直到所述激活层输出的特征向量的稀疏性满足第一阈值；根据所述激活层输出的特征向量和第二阈值，删除所述指定卷积层中的冗余通道，获取剪枝后的指定卷积层；获得对所有指定卷积层都完成剪枝后的压缩后的神经网络模型；所述激活层通过激活函数中的第一调节参数α对所述激活层的输出向量的稀疏性进行调整，所述激活函数为： 其中，x是所述神经网络的输入，α是第一调节参数；所述第一调节参数α的值通过所述神经网络的损失函数约束；所述损失函数为：L＝∑x,ylfx,W,y+λ∑αgα；W为所述神经网络的权重，fx,W为所述神经网络的输出，y为样本的标签，∑x,ylfx,W,y为所述神经网络预测所产生的损失；λ∑αgα为α值的约束项，第二调节参数λ用于平衡所述神经网络预测所产生的损失与α值的约束项，gα为单调递减函数。
全文数据：
权利要求：
百度查询： 中国移动通信有限公司研究院 中国移动通信集团有限公司 神经网络压缩方法、装置和存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号