买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
摘要:本发明公开了一种面向卷积神经网络的分布外泛化方法及系统,包括两项核心技术:第一,对卷积神经网络中低层网络结构提取到的图像特征进行风格随机化,基于随机权重混合算法生成新风格并利用风格迁移技术来增强原始数据的风格多样性,从而降低图像风格和图像内容之间的关联性,促使模型关注与输出标签有更强因果关系的内容信息;第二,对神经网络模型的整个训练过程进行对抗训练,基于随机初始噪声来优化单步梯度上升算法对约束空间中最优解的搜索范围并利用单步梯度上升算法来生成对抗样本,从而让模型主动学习图像的深层特征及带扰动样本的正确分类标签,减小模型对训练数据的过拟合风险。
主权项:1.一种面向卷积神经网络的分布外泛化方法,其特征在于:对卷积神经网络中低层网络结构提取到的数据特征进行风格随机化,对卷积神经网络模型的整个训练过程进行对抗训练,让模型主动学习带扰动样本的深层特征及其正确的分类标签,优化决策边界,减小对训练数据的过拟合风险;风格随机化采用基于风格迁移的数据增强算法,对于一个批次中的每一个输入张量x,计算其样本级别的均值和标准差,利用均值-标准差对来表示样本x的提取风格特征s;在训练数据中随机选取批次中的另一个样本x'作为参考样本,计算其样本级别的均值和标准差,利用均值-标准差对来表示样本x'的风格特征s';将原始图像的风格s与参考图像的风格s'进行随机权重混合,得到新的均值和新的方差,新的均值-标准差对表示一个新的风格特征snew;将新风格特征snew迁移到原始图像x上,使原始图像的风格实现随机化;对抗训练采用基于FGSM的新型对抗训练算法,具体包括以下步骤:从均匀分布Uniform-α,α中随机采样得到噪声η,将噪声η添加到原始图像x上,得到经过噪声增强后的样本xaug;使用FGSM算法计算模型损失函数对xaug的梯度并将该梯度方向的一个微小扰动添加到样本xaug上生成对抗样本将对抗样本作为训练数据,根据模型对的分类结果计算损失函数值,通过反向传播来优化和更新模型的参数。
全文数据:
权利要求:
百度查询: 武汉大学 面向卷积神经网络的分布外泛化方法及系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。