买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
摘要:本申请涉及一种对抗样本生成方法以及模型评估方法,可应用于云技术、人工智能、智慧交通、辅助驾驶等各种场景。所述对抗样本生成方法包括:通过第一识别模型分别对攻击样本和被攻击样本进行识别,得到与攻击样本和被攻击样本各自相匹配的第一识别结果;通过第二识别模型分别对攻击样本和被攻击样本进行识别,得到与攻击样本和被攻击样本各自相匹配的第二识别结果,第二识别模型和第一识别模型的识别任务不同;基于第一识别结果和第二识别结果,对第一识别模型相匹配的第一识别任务和第二识别模型相匹配的第二识别任务进行优化,根据优化时生成的对抗扰动得到与攻击样本相匹配的对抗样本。采用本方法能够提高对抗攻击成功率和对抗攻击效率。
主权项:1.一种对抗样本生成方法,其特征在于,所述对抗样本生成方法包括:计算机设备通过第一识别模型分别对攻击样本和被攻击样本进行识别,得到与所述攻击样本和所述被攻击样本各自相匹配的第一识别结果;所述第一识别模型为人脸识别模型;所述攻击样本是指未优化的初始对抗样本;通过第二识别模型分别对所述攻击样本和所述被攻击样本进行识别,得到与所述攻击样本和所述被攻击样本各自相匹配的第二识别结果,所述第二识别模型和所述第一识别模型的识别任务不同;所述第二识别模型为与所述人脸识别模型的识别任务不同的人脸属性识别模型;基于所述第一识别模型在对所述攻击样本和所述被攻击样本进行识别时生成的中间层识别特征,得到所述第一识别模型的特征损失;基于所述第一识别结果,计算所述第一识别模型的识别结果损失;根据所述特征损失和所述识别结果损失,得到所述第一识别模型的第一损失,并基于所述第二识别结果得到所述第二识别模型的第二损失;基于所述第一损失和所述第二损失,对所述第一识别模型相匹配的第一识别任务和所述第二识别模型相匹配的第二识别任务进行优化迭代;当所述优化迭代的迭代次数达到迭代次数阈值为止,根据最新生成的对抗扰动得到与所述攻击样本相匹配的对抗样本。
全文数据:
权利要求:
百度查询: 腾讯科技(深圳)有限公司 对抗样本生成方法以及模型评估方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。