买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:德鲁动力科技(成都)有限公司
摘要:本发明涉及基于差分注意力的深度学习、目标检测及语义分割方法,包括步骤1,数据集处理:将数据变成深度学习神经网络需要的数据结构;步骤2,包括:2.1,搭建传统的卷积神经网络;2.2模型改进:在卷积后添加一个差分注意力模块,所述差分注意力模块用于分别关注图片宽方向和高方向的变化;步骤3,模型训练,得基于差分注意力机制的卷积神经网络。本发明克服现有注意力算法只利用当前特征的缺点,将差分算法应用于注意力算法,从而让神经网络对图像或特征图的变化特征、纹理特征以及边缘特征更加敏感,有利于神经网络模型在目标检测、图像分割、抠图等领域的表达能力;同时,相对于其他注意力算法,本发明只是增加了少量的运算,非常利于实现。
主权项:1.基于差分注意力的深度学习方法,其特征在于:包括:步骤1,搭建的卷积神经网络;步骤2,模型改进:在卷积后添加一个差分注意力模块,所述差分注意力模块用于分别关注图片宽方向和高方向的变化;所述差分注意力模块作用于卷积生成的高维张量;所述差分注意力模块分为第一分支和第二分支,第一分支关注宽方向的变化,第二分支关注高方向的变化;差分注意力模块的工作机制为:S1,两个分支同时对张量进行处理:所述第一分支包括以下步骤:A1,对维度为的高维张量做方向的差分卷积运算,为宽度,为高度;A2,对A1生成的张量做行相关运算,生成的相关矩阵;A3,对A2生成的相关矩阵做flatten操作,变成一维向量,然后通过线性变换生成的向量;所述第二分支包括以下步骤:B1,对维度为的高维张量做方向的差分卷积运算;B2,对B1生成的张量做列相关运算,生成的相关矩阵;B3,对B2生成的相关矩阵做flatten操作,变成一维向量,然后通过线性变换生成的向量;S2,将两个分支上最终生成的向量按照元素求和,得张量:然后针对每一个元素做sigmoid运算,把每一个元素的值变成[0,1]的一个权重;S3,把的张量进行reshape操作,变成一个的一个张量,然后再和原张量做按位乘法运算,完成attention操作。
全文数据:
权利要求:
百度查询: 德鲁动力科技(成都)有限公司 基于差分注意力的深度学习、目标检测及语义分割方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。