买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：西安科技大学

摘要：本发明公开了基于决策边界引导的深度神经网络模型模糊测试方法，包括：通过种子选择策略从初始种子集合中选出种子作为由决策边界引导的算法的输入；通过神经元选择策略选出靠近决策边界并且未被激活的神经元，形成神经元集合N；将神经元覆盖率和DNN模型预测差异作为联合优化目标函数，利用该函数来最大化原始样本和生成样本之间的预测差异，并利用梯度上升算法计算扰动，迭代生成对抗样本，以最大限度地激活神经元集合中的神经元；将对抗样本与原始样本一同输入DNN模型中，以检验是否存在误识别现象，并保留被模型误识别的数据以用于模型的重训练。本发明方法解决了现有技术中存在的神经元覆盖率低、变异过程针对性弱的问题。

主权项：1.基于决策边界引导的深度神经网络模型模糊测试方法，其特征在于，具体按照以下步骤实施：步骤1、通过种子选择策略从初始种子集合中选出种子作为由决策边界引导的算法的输入；步骤2、通过神经元选择策略选出靠近决策边界并且未被激活的神经元，形成神经元集合N；步骤3、将神经元覆盖率和DNN模型预测差异作为联合优化目标函数，利用该联合优化目标函数来最大化原始样本和生成样本之间的预测差异，并利用梯度上升算法计算扰动，迭代生成对抗样本，以最大限度地激活步骤2所选择的神经元集合N中的神经元；步骤4、将对抗样本与原始样本一同输入DNN模型中，以检验是否存在误识别现象，并保留被模型误识别的数据以用于模型的重训练；步骤1中，所述种子选择策略具体为：每次从种子库中选择预测概率最低的种子作为输入，用下式定义该选择策略： 其中，P表示DNN对输入预测的概率，a表示DNN的一个输入，s是a的预测类，是a的真实标签；步骤2中，所述神经元选择策略选择的是DNN模型最后两层的神经元，如果当前神经元相比较原始神经元更接近决策边界，则将该神经元加入神经元集合T中，之后将集合T中神经元激活值没有达到阈值的神经元加入到集合N，从而形成神经元集合N，具体的神经元选择策略如下式所示： 其中，X表示DNN模型中的最后两层的神经元集合，表示某一个神经元，表示初始种子的神经元x的权重梯度，表示对抗样本的神经元x的权重梯度，表示神经元x的激活值，t表示判断神经元是否被激活的阈值；利用神经元权重的梯度来量化输入样本与决策边界的接近程度，其通过从softmax层反向传播到目标层的偏微分损失函数获得的梯度来表示，具体的计算方式如下式所示： 该公式描述了利用链式法则来计算权重相对于总损失J的梯度，其中，J是总损失，指的是输入样本的预测结果和真实结果之间的交叉熵损失，表示点积和神经元x偏置相加的结果，用于计算x的输入，表示x的激活值；通过对所有目标层权重的梯度进行计算，然后将这些梯度作为元素来创建梯度向量V，V的具体表达如下式所示： 其中，i表示DNN模型倒数第二层的第i个神经元，j表示DNN模型最后一层的第j个神经元，表示倒数第二层的第i个神经元和最后一层的第j个神经元之间的权重；步骤3中，所述联合优化目标函数joint由两部分组成，一部分是最大化输入样本的神经元覆盖率，另一部分是最大化原始样本与生成样本之间的预测差异，具体如下式所示： 其中，Fi表示softmax层的输出，Pia表示输入样本真实标签值的损失，N表示通过神经元选择策略所确定的神经元集合，表示某一个神经元，表示神经元x的激活值，表示生成的扰动在L2距离的约束条件下，原始样本在迭代变异过程中逐步逼近以满足该联合优化目标函数的要求。

全文数据：

权利要求：

百度查询： 西安科技大学 基于决策边界引导的深度神经网络模型模糊测试方法