买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜常州大学申请的专利一种基于Transformer神经网络的图像分类方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114743022B 。

龙图腾网通过国家知识产权局官网在2025-05-30发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210464982.4，技术领域涉及：G06V10/44；该发明授权一种基于Transformer神经网络的图像分类方法是由屈霞;田晨阳设计研发完成，并于2022-04-29向国家知识产权局提交的专利申请。

本一种基于Transformer神经网络的图像分类方法在说明书摘要公布了：本发明涉及图像分类技术领域，尤其涉及一种基于Transformer神经网络的图像分类方法，包括：利用大型数据集对Transformer神经网络进行预训练；使用自制的数据集对Transformer神经网络进行微调；对采集的图像分块处理；将张量在通道维度上对每个像素做线性变换，并对变换后的张量在通道维度上进行LayerNorm操作；将处理好的图像送入训练好的Transformer神经网络进行特征提取；提取得到的最终特征进行检测，并将图片分类到得分最高的类。本发明解决传统的卷积神经网络在对图像进行分类时精度不够高；现有的多头注意力机制计算量大的问题。

本发明授权一种基于Transformer神经网络的图像分类方法在权利要求书中公布了：1.一种基于Transformer神经网络的图像分类方法，其特征在于，包括以下步骤：S1、预训练：利用大型数据集对Transformer神经网络进行预训练，从中提取出共性特征；S2、微调：使用自制的数据集对Transformer神经网络进行微调，使得经过预训练的模型的参数能够适应对特定的任务进行分类；S3、图像分块：对采集的图像分块处理；S4、线性变换：将张量在通道维度上对每个像素做线性变换，并对变换后的张量在通道维度上进行LayerNorm操作；所述步骤S4包括：首先，在通道维度上对每个像素做线性变换其次，对变换后的张量在通道维度上进行LayerNorm操作，如式1所示： 其中，Ex和Varx分别为每一层输入元素的均值和方差；∈为指定的一个极小数值；γ和β为每个像素点的权重和偏置；S5、特征提取：将处理好的图像送入训练好的Transformer神经网络进行特征提取；所述步骤S5包括：首先，通过Transformer神经网络对图片进行多次特征提取，并将得到的含有目标信息的特征图用作检测源；其次，将三维数据经过多次下采样和多次注意力计算，变成维度为的数据；最后，基于自注意力机制对每个像素的相关性做计算，获得整张图片的全局视野；所述基于自注意力机制是使用滑动窗口多头注意力机制，在对特征图做划分操作时，进行一定程度的偏移；在对图片进行特征提取的过程中，交替使用窗口多头注意力和滑动窗口多头注意力；所述交替使用窗口多头注意力和滑动窗口多头注意力包括：首先，由上一层所得到的输出xl-1，经过LayerNorm操作；然后，基于窗口多头注意力机制计算各个像素点之间的相关性得到xl，并在xl-1和xl之间加入残差连接，随后经过下一个LN归一化层，再将输出送入多层感知机；最后，将输出xl送入下一个含有滑动窗口多头注意力机制的模块；S6、检测：对S5步骤中所提取得到的最终特征进行检测，并将图片分类到得分最高的类。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人常州大学，其通讯地址为：213164 江苏省常州市武进区滆湖中路21号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。