华南理工大学谭明奎获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉华南理工大学申请的专利图像分类到语义分割的跨任务知识蒸馏方法、装置及介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116681887B 。
龙图腾网通过国家知识产权局官网在2025-09-30发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310499648.7,技术领域涉及:G06V10/26;该发明授权图像分类到语义分割的跨任务知识蒸馏方法、装置及介质是由谭明奎;罗然;姚江超;许守恺设计研发完成,并于2023-05-05向国家知识产权局提交的专利申请。
本图像分类到语义分割的跨任务知识蒸馏方法、装置及介质在说明书摘要公布了:本发明公开了一种图像分类到语义分割的跨任务知识蒸馏方法、装置及介质,其中方法包括:对预训练大模型的结构进行重编码;针对预训练大模型的部分参数进行微调;将训练后的大模型中解码器的参数复制到学生模型的解码器;固定学生模型的解码器,利用预设的损失函数训练学生模型的骨干网络;缩小学习率,利用预设的损失函数,继续训练全部的学生模型,获得最终的语义分割模型,以用于语义分割。本发明解决了在计算资源受限的情况下,难以直接将大模型应用于下游任务的问题,可以使用较小的计算代价提升语义分割模型的性能。本发明可广泛应用于数据处理、模型压缩技术领域。
本发明授权图像分类到语义分割的跨任务知识蒸馏方法、装置及介质在权利要求书中公布了:1.一种图像分类到语义分割的跨任务知识蒸馏方法,其特征在于,包括以下步骤: 对预训练大模型的结构进行重编码; 针对预训练大模型的部分参数进行微调; 将训练后的大模型中解码器的参数复制到学生模型的解码器; 固定学生模型的解码器,利用预设的损失函数训练学生模型的骨干网络;使用的损失函数包括交叉熵损失函数、类间距离损失函数和KD损失函数;其中,所述类间距离损失函数的表达式为: 式中,表示总的样本批数,表示第个样本中总共的类别数,表示教师或者学生模型中提取的类别c1和类别c2的类间距离,上标表示学生模型,上标表示教师模型; 缩小学习率,利用预设的损失函数,继续训练全部的学生模型,获得最终的语义分割模型,以用于语义分割。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人华南理工大学,其通讯地址为:510641 广东省广州市天河区五山路381号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。