买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：中国人民公安大学

摘要：本申请提供的一种基于遗忘学习和期望转移概率的后门攻击检测方法及装置，涉及机器学习领域，该方法首先对图像分类任务模型进行遗忘学习，将处理样本输入遗忘学习后的模型，根据分类结果，将分类占比最多的类别假定为第一样本标签，在CIFAR‑10数据集上，面对十分类的情形，将剩余非目标类视为第二样本标签，对第一样本标签对应的第一样本中的假第一样本和第二样本标签对应的第二样本进行逆向生成，并将得到的触发模式施加到检测集合中除去触发模式对应的样本外的其他样本中，计算期望转移概率，根据期望转移概率与检测阈值的关系，预测模型是否遭受后门攻击，该方法能够有效解决MAD绝对偏差中值的方法误分率高的问题。

主权项：1.一种基于遗忘学习和期望转移概率的后门攻击检测方法，其特征在于，所述方法包括：对待检测的图像分类任务模型进行遗忘学习处理，得到所述图像分类任务模型对应的遗忘模型；采用所述遗忘模型，对预先准备的多类别的处理样本进行处理，得到标签预测集合；所述标签预测集合中包括多类别的样本标签；将多类别的样本标签中占比最大的类别对应的样本标签作为第一样本标签，将除所述第一样本标签外的样本标签作为第二样本标签；其中，所述第一样本标签对应的第一样本包括真第一样本和假第一样本；对检测集合中的各样本进行分析，得到各样本对应的触发模式；其中，所述检测集合为所述第二样本标签对应的第二处理样本和所述假第一样本组成的集合；所述触发模式表征触发后门攻击算法的信息；将得到的所述触发模式与所述检测集合中除去所述触发模式对应的样本外的其他样本进行组合，得到多个后门样本；采用所述图像分类任务模型，对各后门样本进行处理，得到各后门样本对应的预测标签；确定多个预测标签中转移为真第一样本的样本标签的目标比例；对所述检测集合中的每一个样本执行：将得到的所述触发模式与所述检测集合中除去所述触发模式对应的样本外的其他样本进行组合，得到多个后门样本的步骤，以得到多个目标比例，并确定多个目标比例的平均比例，所述平均比例表征期望转移概率；若期望转移概率达到预设阈值，则判定所述图像分类任务模型中存在后门攻击算法，以及将所述真第一样本的样本标签确定为攻击目标标签。

全文数据：

权利要求：

百度查询： 中国人民公安大学 基于遗忘学习和期望转移概率的后门攻击检测方法及装置