买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜上海人工智能创新中心申请的专利一种基于解码器视觉Transformer架构的图像分类方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN118135297B 。

龙图腾网通过国家知识产权局官网在2025-07-04发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202410224735.6，技术领域涉及：G06V10/764；该发明授权一种基于解码器视觉Transformer架构的图像分类方法是由王家豪;邵文琪;陈锰钊;张松阳;陈恺;乔宇;罗平设计研发完成，并于2024-02-28向国家知识产权局提交的专利申请。

本一种基于解码器视觉Transformer架构的图像分类方法在说明书摘要公布了：本发明公开了一种基于解码器视觉Transformer架构的图像分类方法。该方法包括：获取目标图像；将所述目标图像输入到经训练的图像LLaMA模型，得到图像分类结果，其中所述图像LLaMA模型包括嵌入层、Transformer解码器和分类头，所述嵌入层用于对目标图像的图像块进行向量表示并嵌入可学习位置编码信息，获得嵌入序列，所述Transformer解码器包含多个图像LLaMA块，用于从所述嵌入序列中提取图像特征，进而传递至所述分类头进行图像分类。本发明第一次将视觉Transformer的架构和大语言模型的解码器架构对齐，并设计有效方案来完成构造纯解码器实现的视觉Transformer架构，提高了预测任务的准确性和泛化能力。

本发明授权一种基于解码器视觉Transformer架构的图像分类方法在权利要求书中公布了：1.一种基于解码器视觉Transformer架构的图像分类方法，包括以下步骤： 获取目标图像； 将所述目标图像输入到经训练的图像LLaMA模型，得到图像分类结果，所述图像LLaMA模型使用SwiGLU模块替换视觉转换块ViT中的多层感知器，使用均方根归一化RMSNorm替换所述视觉转换块ViT中的归一化层，使用因果自注意力机制替换所述视觉转换块ViT中的双向自注意力机制，使用旋转位置编码替换所述视觉转换块ViT中的可学习位置编码； 其中，所述图像LLaMA模型包括嵌入层、Transformer解码器和分类头，所述嵌入层用于对目标图像的图像块进行向量表示并嵌入可学习位置编码信息，获得嵌入序列，所述Transformer解码器包含多个图像LLaMA块，用于从所述嵌入序列中提取图像特征，进而传递至所述分类头进行图像分类；其中，所述图像LLaMA块包含第一均方根归一化层、因果自注意机制模块、第二均方根归一化层和SwiGLU模块； 其中，所述嵌入层输出的嵌入序列采用后序列类令牌，将类标记后置于整个序列的末端； 其中，所述因果自注意机制模块采用旋转位置编码结合软掩码来计算注意力值，其中所述旋转位置编码将每个位置编码为一个旋转矢量，以集成相对位置信息，并且将所述软掩码设置为双向自注意力掩码和因果注意力掩码的线性组合。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海人工智能创新中心，其通讯地址为：200232 上海市徐汇区云锦路701号37、38层；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。