买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：中国人民解放军国防大学联合勤务学院

摘要：本申请公开了一种提升感知算法对抗安全性的方法、系统、介质及电子设备，方法包括：收集适用于待测试智能感知算法的多类原始图像进行数据增广处理，得到增广数据集；根据增广数据集，构建白盒攻击场景和黑盒攻击场景下的对抗样本；基于预设分析指标，对对抗样本进行数据集质量分析，得到对抗样本的数据质量分析结果；根据数据质量分析结果调整对抗样本，并将对抗样本输入待测试智能感知算法中，输出对抗样本的识别结果；基于对抗样本的识别结果，计算待测试智能感知算法的识别准确率，并在识别准确率小于预设阈值的情况下，调整待测试智能感知算法的算法参数和结构。因此，采用本申请实施例，可以提升感知算法对抗安全性。

主权项：1.一种提升感知算法对抗安全性的方法，其特征在于，所述方法包括：收集适用于待测试智能感知算法的多类原始图像进行数据增广处理，得到增广数据集；根据所述增广数据集，构建白盒攻击场景和黑盒攻击场景下的对抗样本；基于预设分析指标，对所述对抗样本进行数据集质量分析，得到所述对抗样本的数据质量分析结果；其中，所述预设分析指标包括定性评价指标和定量评价指标；所述定量评价指标包括不同类别的第一样本数量和第一样本分布、第一对抗样本欺骗比例、第一对抗样本在不同攻击强度下的成功比例；所述基于预设分析指标，对所述对抗样本进行数据集质量分析，得到所述对抗样本的数据质量分析结果，包括：根据所述定性评价指标，对所述对抗样本进行数据集质量分析，得到所述对抗样本的定性评价结果；计算所述对抗样本的不同类别的样本数量和样本分布；将所述对抗样本输入预先训练的机器学习模型中，输出所述对抗样本对应的对抗样本欺骗比例；所述预先训练的机器学习模型是用于分类器准确率下降测试，并基于测试结果可计算出欺骗比例的数学模型；通过预先设置的多个扰动大小与所述对抗样本，确定对抗样本在不同攻击强度下的成功比例；将所述对抗样本的不同类别的样本数量和样本分布、对抗样本欺骗比例以及在不同攻击强度下的成功比例与不同类别的第一样本数量和第一样本分布、第一对抗样本欺骗比例、第一对抗样本在不同攻击强度下的成功比例进行比较，得到所述对抗样本的定量评价结果；将所述定性评价结果和所述定量评价结果作为所述对抗样本的数据质量分析结果；根据所述数据质量分析结果调整所述对抗样本，并将所述对抗样本输入所述待测试智能感知算法中，输出所述对抗样本的识别结果；基于所述对抗样本的识别结果，计算所述待测试智能感知算法的识别准确率，并在所述识别准确率小于预设阈值的情况下，调整所述待测试智能感知算法的算法参数和结构，以及继续执行所述对抗样本输入所述待测试智能感知算法中的步骤，直到所述识别准确率大于等于预设阈值。

全文数据：

权利要求：

百度查询： 中国人民解放军国防大学联合勤务学院 提升感知算法对抗安全性的方法、系统、介质及电子设备