Document
拖动滑块完成拼图
首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

基于特征筛选和深度融合的卷积神经网络特征融合方法 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

摘要:本发明公开了一种基于特征筛选和深度融合的卷积神经网络特征融合方法。方法包括如下步骤:1、将一批影像的多个不同的卷积特征按照通道进行拼接。然后对拼接后的特征进行批量归一化,来调整各层输出特征的分布。2对融合后的综合特征进行包括挤压、激励和注意三个过程的特征筛选。3通过一维卷积对多个特征进行深度融合,进一步挖掘各个特征的信息和特征信息之间的关系。4最后对深度融合的特征进行激活,通过激活函数把激活的特征保留并映射出来。本发明可以明显提升深度学习方法中多特征多尺度特征融合、注意力特征融合等相关类别方法模型的精度,提高图像分类、语义分割和目标检测等任务的识别效果。

主权项:1.一种基于特征筛选和深度融合的卷积神经网络特征融合方法,其特征在于,包括以下步骤:步骤1、将一批来自m幅影像的2个不同的卷积特征按照通道进行拼接;每一个卷积特征的通道为C,大小均为H×W,拼接后的特征大小为m×2C×H×W;步骤2、对步骤1得到的拼接特征进行批量归一化处理,得到综合特征,大小为m×2C×H×W;所述的批量归一化是通过利用每一个小批量的均值和方差来调整神经网络各层输出特征的分布,使其符合高斯分布,用于解决数据分布带来的梯度消失和梯度爆炸问题,从而使整个神经网络在各层的中间输出的数值更稳定;小批量数据的均值和方差公式分别为: 其中,μB为小批量B的均值,为小批量B的方差,k为小批量的数目即每一个卷积特征的特征数,xq为小批量数据中第q个数据的值,其中q=1,2,3,……,k;归一化的公式为: 其中,为归一化后的值,∈为一个很小的常数项,防止分母为0;归一化后再自适应的进行拉伸和偏移,拉伸偏移公式为: 其中,yq为批量归一化后的值,γ和β为神经网络模型的两个可学习的参数;步骤3、通过通道注意力的方法对步骤2得到的综合特征进行特征筛选;特征筛选包括挤压、激励和注意三个过程,具体步骤如下:步骤3.1、挤压是把每个通道的特征值都压缩成一个值,挤压函数如下所示: 其中,H表示输入图像特征的高,W表示输入图像特征的宽,i,j表示图像特征中的位置坐标即图像特征的一个像素,uci,j表示通道C中位置i,j的像素值即该位置的特征值,Fsq表示压缩后的特征值;将步骤2得到的综合特征进行挤压,得到的挤压后的特征大小为m×2C×1×1;步骤3.2、激励是通过全连接层和激活函数来得到每个通道的权重,激励函数如下所示:Fexz,W=σW2δW1z+b1+b2其中,σ表示Sigmoid激活函数,δ表示ReLU激活函数,W1和W2表示两层全连接层的权重系数,b1和b2表示两层全连接层的偏置系数,Fex表示特征z对应激励函数值即每个通道的权重;对步骤3.1挤压后的特征进行激励,得到的激励后的特征大小为m×2C×1×1;所述Sigmoid激活函数和所述ReLU激活函数对所得特征值进行非线性变换,σ所表示的Sigmoid激活函数Sx和δ所表示的ReLU激活函数fx的函数公式如下:步骤3.2.1、σ所表示的Sigmoid激活函数Sx的函数公式如下: 其中,x为输入特征值,Sx为输出的[0,1]之间特征的概率;Sigmoid函数是将特征映射到[0,1]之间,获得通道每一层的权重概率;步骤3.2.2、δ所表示的ReLU激活函数fx的函数公式如下:fx=max0,x其中,x为输入特征值,fx为激活之后的特征值;ReLU函数增加函数的非线性表达,目的是通过ReLU函数把激活的神经元特征保留并映射出来;步骤3.3、对步骤3.2激励后的特征进行注意,得到注意后的各个通道的特征合并,其大小为m×2C×H×W;注意是使特征的每一个通道的特征值乘以得到的通道权重,以此得到通道的注意力,注意函数如下所示:Fatuc,sc=sc·uc其中,sc表示每个通道的权重,uc每个通道的特征值;将步骤二得到的综合特征的每一个通道的特征值乘以得到的每个通道权重即为通道注意力;步骤4、通过一维卷积对步骤3得到的筛选后的特征进行深度融合,进一步挖掘各个特征的信息和各个信息之间的关系;所述一维卷积的卷积核大小为1×1,输入维度和输出维度一致,都为输入特征的通道数大小;对步骤3筛选后的特征进行一维卷积,得到的输出的特征大小为m×2C×H×W;步骤5、通过ReLu激活函数对步骤4深度融合后的特征进行激活,得到基于特征筛选和深度融合的卷积神经网络,根据所述基于特征筛选和深度融合的卷积神经网络得到深度处理后的图像特征,激活后的特征大小为m×2C×H×W。

全文数据:

权利要求:

百度查询: 中国地质大学(武汉) 基于特征筛选和深度融合的卷积神经网络特征融合方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。