龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：重庆大学
摘要：本发明公开了一种视觉Transformer的图像块划分预处理方法，该方法针对视觉Transformer缺少图像的局部性、平移不变性，对PVT图像分类算法进行改进，在其基础上对图像块做了多尺度特征融合的处理，提出了多尺度特征融合的图像块嵌入层MSFF_PE，通过设计的轻量化多尺度特征融合模块，丰富图像块内的多尺度特征信息，加强图像块的特征表示能力。针对编码器结构中缺少局部信息的建模，提出了多尺度局部增强的前馈神经网络层MSLE_FF，将注意力机制输出的一维序列复原为二维图像进行局部信息的交互，并引入距离重要性获取局部特征的加权信息。最后，经过实验验证本发明方法的有效性。
主权项：1.一种视觉Transformer的图像块划分预处理方法，其特征在于，包括如下步骤：S1:获取若干公开有标签的图像作为训练集，其中一张图像作为一个训练样本。S2:构建并训练改进的Transformer分类模型，改进的Transformer分类模型是对现有Transformer分类模型做了如下两处改进，第一处将图像块嵌入层改为多尺度特征融合的图像块嵌入层MSFF_PE，第二处将前馈神经网络改进为多尺度局部增强的前馈神经网络层MSLE_FF。将训练样本输入改进的Transformer分类模型，分别经过改进的图像块嵌入层MSFF_PE、空间缩减注意力模块、改进的前馈神经网络MSLE_FF，不断更新特征图，最后通过线性层输出最终预测的分类结果，计算训练样本的真实标签和预测标签之间的损失，并采用反向传播计算模型每一层参数的梯度，根据计算的梯度调整模型参数，以最小化损失函数，不断迭代上述步骤，直至损失函数最小化，此时得到训练好的Transformer分类模型；S3:将一张待分类图像输入训练好的Transformer分类模型，训练好的Transformer分类模型计算待分类图像属于各类的概率值，将最大概率值对应的类作为待分类图像的预测类输出。
全文数据：
权利要求：
百度查询： 重庆大学 一种视觉Transformer的图像块划分预处理方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号