浙江大学池志豪获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉浙江大学申请的专利一种基于模型输出差值矩阵知识蒸馏的图像分类方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN117237709B 。
龙图腾网通过国家知识产权局官网在2025-08-29发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202311150654.8,技术领域涉及:G06V10/764;该发明授权一种基于模型输出差值矩阵知识蒸馏的图像分类方法及装置是由池志豪;王闻箫;蔡登设计研发完成,并于2023-09-07向国家知识产权局提交的专利申请。
本一种基于模型输出差值矩阵知识蒸馏的图像分类方法及装置在说明书摘要公布了:本发明公开了一种基于模型输出差值矩阵知识蒸馏的图像分类方法及装置,包括:1将训练集图片分别输入待训练的学生模型和已训练的教师模型,分别输出对应的逻辑分类值;2分别计算每个逻辑分类值之间的两两差值,构建两个差值矩阵;3计算两个差值矩阵之间的区别度,作为蒸馏损失函数;4同时计算学生模型的逻辑分类值和图片真实分类标签的交叉熵,作为分类任务的损失函数,与蒸馏损失函数相加后得到训练学生模型的最终损失函数;5向前传递梯度以更新学生模型的参数,教师模型的参数保持不变;6重复以上步骤进行训练,并将训练完毕的学生模型进行图片分类。利用本发明,可以提高在图片分类任务上进行知识蒸馏的效果。
本发明授权一种基于模型输出差值矩阵知识蒸馏的图像分类方法及装置在权利要求书中公布了:1.一种基于模型输出差值矩阵知识蒸馏的图像分类方法,其特征在于,包括以下步骤: 1将训练集图片输入到待训练的学生模型中,图片经过学生模型的中间层处理,通过学生模型的分类器输出对应的逻辑分类值; 将相同的训练集图片输入到已完成训练的教师模型中,图片经过教师模型的中间层处理,通过教师模型的分类器输出对应的逻辑分类值; 2根据学生模型和教师模型输出的逻辑分类值,分别计算每个逻辑分类值之间的两两差值,构建两个差值矩阵; 3计算学生模型的差值矩阵和教师模型的差值矩阵之间的区别度,以此作为蒸馏损失函数; 4同时计算学生模型的逻辑分类值和图片真实分类标签的交叉熵,作为分类任务的交叉熵损失函数,将蒸馏损失函数与交叉熵损失函数按设定的比例相加后,作为训练学生模型的最终损失函数; 5向前传递梯度以更新学生模型的参数,教师模型的参数保持不变; 6重复以上步骤1到步骤5,达到预设训练次数后结束训练,并将训练完毕的学生模型进行图片分类的应用。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浙江大学,其通讯地址为:310058 浙江省杭州市西湖区余杭塘路866号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。