买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜之江实验室;厦门大学申请的专利基于歧义指导互标签更新的鲁棒知识蒸馏方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114330580B 。

龙图腾网通过国家知识产权局官网在2025-05-06发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202111676330.9，技术领域涉及：G06F18/2413；该发明授权基于歧义指导互标签更新的鲁棒知识蒸馏方法是由严严;姜润青;王菡子;王彪;张吉设计研发完成，并于2021-12-31向国家知识产权局提交的专利申请。

本基于歧义指导互标签更新的鲁棒知识蒸馏方法在说明书摘要公布了：本发明公开了基于歧义指导互标签更新的鲁棒知识蒸馏方法，包括：A、构建训练数据集；B、构建教师网络和学生网络；C、通过鲁棒学习方法对教师网络进行训练；D、对数据集中的每个样本进行歧义感知权重估计和权重分配；E、根据小损失标准对数据集中的样本进行标签重新标注，结合教师网络特征的标签传播算法更新标签，再计算损失和更新网络参数；F、在学生网络和教师网络之间进行互标签传播算法，并更新样本标签、计算损失和更新网络参数；G、将测试图像数据导入学生网络，由其得到预测结果且用于图像分类；本方案可以有效地提升知识蒸馏对噪声标签的鲁棒性，从而可以在噪声标签的环境下获取一个高性能的轻量级网络，其更能适用于实际情况。

本发明授权基于歧义指导互标签更新的鲁棒知识蒸馏方法在权利要求书中公布了：1.一种基于歧义指导互标签更新的鲁棒知识蒸馏方法，其特征在于，其包括：A、构建训练数据集，并按预设条件对其进行预处理；B、构建教师网络和学生网络；C、通过鲁棒学习方法将训练数据集导入教师网络中进行训练，获得预设性能的教师模型；D、将训练数据集导入学生网络中，然后对训练数据集中的每个样本进行歧义感知权重估计和权重分配；E、学生网络按预设条件根据小损失标准对训练数据集中的样本进行标签重新标注，再结合教师网络特征的标签传播算法更新标签，然后计算损失，更新网络参数；F、在学生网络和教师网络之间进行互标签传播算法，并更新样本标签,然后计算损失，更新网络参数；G、将测试图像数据导入学生网络，由学生网络的学生模型前向传播得到预测结果且将其用于图像分类；其中，步骤E具体包括：使用教师网络的特征构建k-nn图G＝V,E,其中V和E分别表示顶点集合和边集合，顶点之间的相似度矩阵被描述如下： 其中，代表样本xi在教师网络下的特征，NNkxi表示样本xi的k近邻，然后，可得到一个对称邻接矩阵继而进行归一化Wt得到其中，D为对角度矩阵；同时，根据小损失标准，训练数据集原始的标注将被根据学生网络小损失标准重新标注，其公式如下： 其中，表示学生网络对样本xi的预测，为样本的原始标签，为指示函数，表示被学生网络选择的干净样本集合；联合k-nn图G，将更新后的标签矩阵Z和样本权重矩阵进行标签传播，其公式如下： 其中，LP可被定义为式中，⊙表示对应元素间相乘，β为超参数用于平衡损失；计算得到更新后的标签Yt后，按如下公式计算损失： 其中，定义为： 使用mixup算法得到混合样本数据，所述混合样本数据为虚拟样本，其公式如下： 在上述虚拟样本下构建蒸馏损失其公式如下： 其中， τ为温度参数；同样的，定义混合样本的分类损失其公式如下： 最后，定义了如下损失使学生网络模仿教师网络的样本间的相似度，其公式如下： 步骤F包括：首先，利用步骤D中歧义感知的权重估计模块为每个样本估计权重，得到权重矩阵并按照如下过程更新标签： 最后，通过公式4计算损失更新网络参数。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人之江实验室;厦门大学，其通讯地址为：310012 浙江省杭州市文一西路1818号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。