买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：南京航空航天大学

摘要：本发明公开了一种基于混合深度神经网络的危险识别方法，包括以下步骤：通过飞机通信寻址与报告系统收集历史报文数据，进行归一化处理；利用滑动时间窗口法分别对归一化后的数据进行预处理，将预处理后的数据分为训练数据和测试数据；构建混合深度神经网络，混合深度神经网络由卷积双向长短时记忆网络基本模型和全连接神经网络集成模型组成；用训练数据对混合深度神经网络进行训练；利用测试数据对训练过的混合深度神经网络进行测试，基于基本模型的输出，利用全连接神经网络完成危险识别功能。本发明的方法有效提高了危险识别的准确率，对民用飞机风险管理具有重要的理论和应用价值。

主权项：1.一种基于混合深度神经网络的危险识别方法，其特征在于：包括以下步骤：步骤1，数据收集与归一化：通过飞机通信寻址与报告系统收集历史报文数据，进行归一化处理，去除数据的单位限制，将其转化为无量纲的纯数值；步骤2，数据预处理：利用滑动时间窗口法分别对归一化后的数据进行预处理，将预处理后的数据分为训练数据和测试数据，随后，基于混合深度神经网络的集成结构，将训练数据分为训练数据1和训练数据2两个部分，训练数据1用于卷积双向长短时记忆网络基本模型的训练，训练数据2用于全连接神经网络集成模型的训练；测试数据用于最后混合深度神经网络识别效果的测试；步骤3，混合深度神经网络构建：混合深度神经网络由两个部分组成，第一部分为三个具有不同时间窗口尺寸的卷积双向长短时记忆网络基本模型，第二个部分为全连接神经网络集成模型；步骤4，混合深度神经网络训练：利用步骤2得到的训练数据1和训练数据2对步骤3构建的混合深度神经网络进行训练；首先，利用训练数据1对三个不同的基本模型进行训练，然后，将训练数据2输入训练完成的基本模型，得到初步危险识别结果，最后，利用初步危险识别结果训练全连接神经网络集成模型；步骤5，混合深度神经网络测试：利用步骤2得到的测试数据对步骤4训练过的混合深度神经网络进行测试，基于基本模型的输出，利用全连接神经网络完成危险识别功能；所述步骤1中，数据收集与归一化的步骤为：步骤11，设收集的报文数据中有i个参数，每个参数包含j个数据，确定每个参数的最大值xi,max以及最小值xi,min；步骤12，通过以下公式计算得到归一化后的参数值： 所述步骤2中，利用滑动时间窗口法分别对归一化后的数据进行预处理的步骤如下：步骤21，选用的三个不同的时间窗口尺寸为STW1，STW2和STW3，收集到的数据包含N个连续的时间点；步骤22，利用滑动时间窗口法对数据进行预处理，第1至STW1个时间点的数据作为第一组输入数据，第STW1+1个时间点的危险值作为第一组数据对应的输出值；向后滑动一个时间点，第2至STW1+1个时间点的数据作为第二组输入数据，第STW1+2个时间点的危险值作为第二组数据对应的输出值，以此类推最终得到n1组时间窗口尺寸为STW1的数据；步骤23，以时间窗口尺寸为STW2，重复步骤22，得到n2组时间窗口尺寸为STW2的数据；步骤24，以时间窗口尺寸为STW3，重复步骤22，得到n3组时间窗口尺寸为STW3的数据；步骤25，从步骤22得到的n1组时间窗口尺寸为STW1的数据中，选取第n1-T至第n1组数据作为测试数据；选取第n1-T-B至第n1-T-1组数据作为训练数据2；剩余数据作为训练数据1；步骤26，从步骤23得到的n2组时间窗口尺寸为STW2的数据中，选取第n2-T至第n2组数据作为测试数据；选取第n2-T-B至第n2-T-1组数据作为训练数据2；剩余数据作为训练数据1；步骤27，从步骤24得到的n3组时间窗口尺寸为STW3的数据中，选取第n3-T至第n3组数据作为测试数据；选取第n3-T-B至第n3-T-1组数据作为训练数据2；剩余数据作为训练数据1；步骤28，将步骤25至27中得到的3*T组训练数据2，根据输出危险值的时间点进行合并，得到T组新的训练数据2，训练数据2中每组数据包含三个时间窗口尺寸的输入数据和一个输出数据；步骤29，将步骤25至27中得到的3*B组测试数据，根据输出危险值的时间点进行合并，得到B组测试数据，测试数据中每组数据包含三个时间窗口尺寸的输入数据和一个输出数据；所述步骤3中，混合深度神经网络构建的步骤如下：步骤31，基本模型的构建：混合深度神经网络有三个具有不同时间窗口尺寸的卷积双向长短时记忆网络基本模型，每个基本模型的网络结构相同，由卷积-池化层，双向长短时记忆网络层以及全连接层组成，分别对基本模型的各层进行构建；步骤32，全连接神经网络集成模型的构建：建立l层全连接层，每层的神经元个数逐层递减，全连接神经网络进行操作，操作结果与softmax分类器连接完成最终识别任务；其中，fcl是第l层的输出，δ·为激活函数，和分别为权重矩阵和偏置；所述步骤31包括：步骤311，卷积-池化层的构建：建立l层卷积-池化层，卷积层滤波器数量设置为对应的时间窗口尺寸STW，池化窗口大小为S；卷积层进行卷积操作提取数据特征，将卷积层得到的特征图输入至池化层进行最大池化操作其中代表第l层获得的第n个滤波器的特征图，代表ReLU激活函数，代表第l-1层的第m个特征图，代表第l-1层的第n个滤波器的卷积核，代表偏置，S是池化层窗口大小，是第l-1层第i个神经元的第n个滤波器得到的值，是第l-1层第n个滤波器得到的特征图；步骤312，双向长短时记忆网络层的构建：双向长短时记忆网络由前向长短时记忆网络和后向长短时记忆网络组成，它们具有相同的输入，但沿相反的方向传输信息；双向长短时记忆网络的神经元个数设置为对应的时间窗口尺寸STW；长短时记忆网络由三个门函数，一个隐藏状态单元和一个记忆状态单元组成；ot＝σWo·[ht-1,xt]+bo为输出门函数，ft＝σWf·[ht-1,xt]+bf为遗忘门函数，it＝σWi·[ht-1,xt]+bi为输入门函数，隐藏状态单元为记忆状态单元为其中，为当前输入值的记忆状态单元值，ct-1为上一时间点输入值的记忆状态单元值，σ为sigmoid函数，Wo和bo是输出门函数的权重矩阵和偏差，Wf和bf是遗忘门函数的权重矩阵和偏差，Wi和bi是输入门函数的权重矩阵和偏差，Wc和bc是记忆单元的权重矩阵和偏差，表示两个向量的向量积；在双向长短时记忆网络的结构中，将相同的输入数据输入到前向长短时记忆网络层和后向长短时记忆网络层，以计算前向长短时记忆网络层的隐藏状态ht＝LSTMxt,ht-1和后向长短时记忆网络层的隐藏状态h′t＝LSTMxt,h′t+1；然后，将两个隐藏状态连接起来以计算双向长短时记忆网络层的输出ot＝Whoht+Wh′oh′t+b′o；其中，LSTM·代表长短时记忆中定义的操作，Who和Wh′o分别代表前向长短时记忆网络层和后向长短时记忆网络层的权重，b′o代表输出层的偏置；步骤313，全连接层的构建：建立l层全连接层，第一层的神经元个数设置为对应的时间窗口尺寸STW，其它层神经元个数逐层递减，全连接层与softmax分类器连接完成初步识别任务；所述步骤4中，混合深度神经网络模型训练的步骤如下：步骤41，参数初始化：利用标准化的Glorot初始化器初始化双向长短时记忆网络层中的权值，标准化的He初始化器初始化其他层的权值；设置批次大小nbatch，最大训练迭代次数nepoch；利用Dropout和Earlystopping的方法来避免过度拟合，Dropout率设置为0.5；步骤42，将训练数据1输入至对应的基本模型进行训练，得到识别结果；步骤43，计算损失函数其中B是样本个数，Ts代表第s个样本的真实标签值，y代表softmax分类器的输出；步骤44，更新基本模型参数；步骤45，重复步骤42至44，直到满足Earlystopping条件或达到最大迭代次数，最终得到训练完成的基本模型；步骤46，将训练数据2输入训练完成的基本模型得到初步识别结果，然后得到的初步识别结果输入至全连接神经网络集成模型进行训练，得到识别结果；步骤47，计算损失函数，更新集成模型参数；步骤48，重复步骤46和47，直到满足Earlystopping条件或达到最大迭代次数，最终得到训练完成的混合深度神经网络。

全文数据：

权利要求：

百度查询： 南京航空航天大学 基于混合深度神经网络的飞机危险识别方法