中国地质大学(武汉)项健健获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中国地质大学(武汉)申请的专利一种基于知识蒸馏的轻量化遥感影像语义分割方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116740344B 。
龙图腾网通过国家知识产权局官网在2026-02-17发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310604507.7,技术领域涉及:G06V10/26;该发明授权一种基于知识蒸馏的轻量化遥感影像语义分割方法及装置是由项健健;刘佳;熊奇;邓重九;陈都设计研发完成,并于2023-05-23向国家知识产权局提交的专利申请。
本一种基于知识蒸馏的轻量化遥感影像语义分割方法及装置在说明书摘要公布了:本发明公开了一种基于知识蒸馏的轻量化遥感影像语义分割方法,包括:构建包括一个提取局部空间特征的分支CNN、一个提取全局空间特征的分支Transformer、融合局部空间特征和全局空间特征的特征融合模块以及对融合特征进行解码的解码器的网络;将ResNet50和SegFormer‑B3替换CNN和Transformer,得到教师网络;将ResNet18和SegFormer‑B0替换CNN和Transformer,得到学生网络;构建基于动态温度的融合特征蒸馏模块,来联合训练学生网络和教师网络,动态搜索温度参数,在特征层面使用结构化蒸馏方法,使学生网络在训练期间关注教师网络融合特征中每个通道的特征表示,得到基于知识蒸馏的轻量化遥感影像语义分割模型。使用本发明的方案,在降低遥感影像语义分割精度损失的情况下,实现了模型轻量化。
本发明授权一种基于知识蒸馏的轻量化遥感影像语义分割方法及装置在权利要求书中公布了:1.一种基于知识蒸馏的轻量化遥感影像语义分割方法,其特征在于,包括以下步骤: S1、获取遥感影像,并对遥感影像进行预处理,将预处理后的遥感影像划分为训练集和测试集; S2、构建基于CNN‑Transformer特征融合的遥感影像语义分割网络,包括一个用于提取局部空间特征的分支CNN、一个用于提取全局空间特征的分支Transformer、将提取的局部空间特征和全局空间特征进行融合的特征融合模块以及对融合的特征进行解码的解码器FPNHead; S3、将ResNet50和SegFormer‑B3替换S2中CNN和Transformer,得到教师网络; S4、并利用S1中训练集对所述教师网络进行训练,得到遥感影像语义分割模型,利用S1中的测试集对所述模型的精度进行评估; S5、将ResNet18和SegFormer‑B0替换S2中CNN和Transformer,得到学生网络; S6、构建基于动态温度的融合特征蒸馏模块,利用S1中的训练集对学生网络进行训练,基于遥感影像语义分割模型,在训练时动态搜索温度参数,在特征层面使用结构化蒸馏方法,使学生网络在训练期间关注教师网络融合特征中通道维度的特征表示,得到基于知识蒸馏的轻量化遥感影像语义分割模型; S7、基于S1中的测试集对基于知识蒸馏的轻量化遥感影像语义分割模型进行精度评估,利用基于知识蒸馏的轻量化遥感影像语义分割模型对新采集的遥感影像进行快速语义分割; 步骤S6中的训练损失函数为: 其中,分别是的权重,为手动调整的超参数,表示基于动态温度的融合特征蒸馏模块中计算的特征损失,用于衡量融合特征之间的通道间相似性,表示KL散度损失函数,用于衡量学生网络与教师网络输出的概率分布之间的差异性,是学生网络的输出概率分布与真实类别标签的交叉熵损失; 根据总的损失函数对学生网络进行反向传播和参数更新,实现知识蒸馏,直到学生网络收敛,最终得到训练后的基于知识蒸馏的轻量化遥感影像语义分割模型; 步骤S6中动态温度是将知识蒸馏中的超参数T设置为可以学习的网络参数,训练过程中通过逐渐加大学生网络与教师网络之间的蒸馏损失,从而控制学生网络的学习难度,优化目标为: 其中,表示教师网络参数为、输入为时的输出概率分布;表示学生网络参数为、输入为时的输出概率分布,是真实类别标签; 通过学习率为的随机梯度下降算法对进行更新: 其中,u为学习率。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国地质大学(武汉),其通讯地址为:430000 湖北省武汉市洪山区鲁磨路388号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励