大连理工大学宋梓硕获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉大连理工大学申请的专利基于多约束无监督联邦知识蒸馏的数据交易方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120671771B 。
龙图腾网通过国家知识产权局官网在2025-12-02发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510787704.6,技术领域涉及:G06N3/096;该发明授权基于多约束无监督联邦知识蒸馏的数据交易方法是由宋梓硕;王鹏飞;王振伟;王熙涵;赵明姝设计研发完成,并于2025-06-13向国家知识产权局提交的专利申请。
本基于多约束无监督联邦知识蒸馏的数据交易方法在说明书摘要公布了:本发明提出基于多约束无监督联邦知识蒸馏的数据交易方法,通过构建多种约束条件,logit一致性、批量统计特征和信息熵约束,在确保图像数据隐私的前提下,实现多个教师模型向学生模型高效、精准的知识迁移,且批量级别的统计约束让模型在处理不同批次图像数据时更稳定。此外,数据持有方仅上传训练好的模型参数,不用共享原始图像数据,保障了数据隐私。增强学生模型在图像任务中的性能,解决传统知识蒸馏在图像数据交易中知识传递不充分、模型稳定性差以及多教师知识整合困难的问题,具有较好的应用前景。
本发明授权基于多约束无监督联邦知识蒸馏的数据交易方法在权利要求书中公布了:1.基于多约束无监督联邦知识蒸馏的数据交易方法,其特征在于,包括如下步骤: 买方的学生模型接收K个数据持有方上传的教师模型;其中,为数据持有方i根据自身的图像数据集特点对本地模型训练后的教师模型; 构建总损失函数,以最小化总损失函数为整体优化目标,进行知识蒸馏; 所述总损失函数整合了logit损失、批量级别的统计损失以及信息熵损失; 所述总损失函数为: 其中,、、为权重参数,为logit损失,为批量级别的统计损失,为信息熵损失; 所述logit损失计算方法如下: 将买方的无标注数据集的一个样本作为教师模型的输入,经教师模型处理得到的logit记为,计算学生模型对于处理得到的logit记为;和均是长度为的特征向量;通过均方误差损失衡量学生模型与教师模型输出logit的差异: 由于存在多个教师模型,logit损失为: ; 所述批量级别的统计损失计算方法如下: 设教师模型在一个批量大小为B的输入下输出的logit集合为,学生模型同样得到logit的输出集合为;分别计算教师模型输出的logit集合的第一组阶统计特征和学生模型输出的logit集合的第二组阶统计特征,其中第一组阶统计特征和第二组阶统计特征的总阶数相同,且每一阶的统计特征通过调整与该阶阶数相同的幂级计算得到; 学生模型和教师模型之间批量级别的统计损失如下: 其中,、、、、分别是不同统计特征约束的权重,、分别为教师模型和学生模型的一阶特征均值,、分别为教师模型和学生模型的二阶特征方差,、分别为教师模型和学生模型的三阶特征偏度,、分别为教师模型和学生模型的四阶特征峰度,和分别为教师模型和学生模型的阶统计特征; 由于使用K个教师模型,因此批量级别的统计损失整体定义如下: ; 所述信息熵损失定义如下: 其中,为基于一个批量下教师模型输出logit集合的信息熵: 其中,为教师模型在该批量大小下第个logit值出现的概率,若logit值有重复,需统计重复次数计算概率;若无重复,每个logit值出现概率为; 为基于一个批量下学生模型输出logit集合的信息熵: 其中,为学生模型在该批量大小下第个logit值出现的概率,若logit值有重复,需统计重复次数计算概率;若无重复,每个logit值出现概率为。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人大连理工大学,其通讯地址为:116024 辽宁省大连市甘井子区凌工路2号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励