买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：南京理工大学

摘要：本发明公开了一种可信神经网络的形式化快速可解释方法及系统，通过对神经网络模型的形式化建模和化简，以博弈作为模型的决策过程模型，以博弈树遍历作为模型决策的解释方法，得出神经网络模型逻辑严谨且完备的解释，实现可信的神经网络模型。本发明提出了快速计算边界输入值的方法，可直接计算函数输出发生变化时的边界输入值，无需遍历所有输入输出可能；此外，本发明方法可为连续变量的神经网络提供形式化的解释。

主权项：1.一种可信神经网络的形式化快速可解释方法，其特征在于，包括：步骤一，得到一个在现实生活中做出决策的神经网络模型，抽取该模型的特征值和参数信息，包括神经网络的权重、偏置、激活函数；步骤二，从神经网络模块提取出形式化解释，具体为：S1，将步骤一得到的神经网络模型的输入特征值用形式化方法编译成逻辑变量；S2，根据上一步得到的逻辑变量，将模型编译为形式化逻辑表达式，具体方法为：将神经网络模型每层神经元的权重值矩阵相乘，得到最终权重值；将每层神经元的偏置值矩阵相乘，得到最终偏置值；然后根据每一层的激活函数输入输出映射关系，得到神经网络模型对应的基于阈值的线性函数L；S3，将该线性函数L的阈值条件，从输入到输出的映射空间表示成一棵决策树DTi，具体方法如下：a令阈值条件为决策树的根节点；b选取一个特征值顺序x1，x2，...，xn，按顺序遍历特征值的所有可能取值，每种可能取值为从根节点出发的一条路径，每条路径所到达的子节点为带入每个路径所代表的情况后的阈值条件；c从上一步得到的每一个子节点出发，根据上一步所选取的特征值顺序x1，x2，...，xn，依次遍历其后每一个特征值，遍历该特征值的每一种取值，作为一条路径，到达的子节点为带入该取值后的阈值条件；d重复步骤c直至b中所选特征值序列的最后一个特征值，此时得到的子节点为该决策树的叶子节点，值为基于阈值的线性函数fx的决策结果{y1,y2,...,yn}；e至此，暨完成决策树的构建；S4，该决策树从根节点到叶子节点的每条路径p代表一条决策的形式化解释；S5，将得到的决策树的路径p，依据其叶子节点的值，将决策树从根节点到叶子节点的所有路径归类；S6，基于上一步得到的路径分类，把每一类的路径合并同类项，化简至PrimeImplicant；S7，将上一步化简得到的决策根因，用自然语言表示，返回给用户。

全文数据：

权利要求：

百度查询： 南京理工大学 可信神经网络的形式化快速可解释方法及系统