买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:北京工业大学
摘要:本发明涉及一种基于跳出局部极小的改进卷积神经网络训练的方法,用于实现最优化卷积神经网络的目标。主要包括优化得到非平凡局部极小值点θ*、构造出参数空间中θ*附近的一个点θ、再构造出与θ具有相等的训练损失的另一个点θ′、进一步优化θ′使训练损失降至比θ*的训练损失更低的程度,实现跳出局部极小,得到分类效果更好的卷积神经网络。将本发明提出的方法在CIFAR10数据集上进行实验验证,实验结果显示本发明所提出的方法是有效的,可以在优化卷积神经网络的过程中跳出局部极小,提高在CIFAR10数据集上的分类正确率。
主权项:1.基于跳出局部极小的改进卷积神经网络训练的方法,其特征在于,包含以下几个步骤:1随机初始化结构为L层的卷积神经网络,通过Adam优化器对其进行训练,直至训练损失不再下降,到达收敛状态,此时得到的卷积神经网络是参数空间中的一个局部极小值点,记作θ*2构造出与卷积神经网络θ*具有同样结构但是参数值发生了改变的另一个卷积神经网络,记作θ3再构造出与卷积神经网络θ具有同样结构但是参数值发生了改变并且训练损失值不发生改变的另一个卷积神经网络θ′;4进一步优化θ′,使训练损失降至比θ*的训练损失更低的程度,得到比θ*分类效果更好的卷积神经网络,记作θ″,代表成功跳出了局部极小值点θ*。
全文数据:
权利要求:
百度查询: 北京工业大学 基于跳出局部极小的改进卷积神经网络训练的方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。