买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜南京邮电大学申请的专利一种用于工业异构设备的对比双焦点知识蒸馏联邦学习方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119272845B 。

龙图腾网通过国家知识产权局官网在2025-04-25发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411783712.5，技术领域涉及：G06N3/098；该发明授权一种用于工业异构设备的对比双焦点知识蒸馏联邦学习方法是由孙雁飞;胡淞皓;胡筱旋;亓晋;董振江;华佳琳设计研发完成，并于2024-12-06向国家知识产权局提交的专利申请。

本一种用于工业异构设备的对比双焦点知识蒸馏联邦学习方法在说明书摘要公布了：本发明属于信息技术领域，公开一种用于工业异构设备的对比双焦点知识蒸馏联邦学习方法，通过1个服务器和N个客户端构建对比双焦点知识蒸馏联邦学习模型，各个客户端分别在本地数据集上进行预训练，得到初始化本地模型；服务器接收来自多个客户端的知识，通过双焦点蒸馏策略推动服务器模型演化为更高精度、更具泛化能力的服务器端全局模型，客户端计算全局模型与本地模型输出的特征对比损失和相对熵损失，同时，计算本地模型与全局模型和上一轮本地模型输出的特征对比损失，以及本地模型输出与硬性标签之间的交叉熵，通过知识蒸馏损失项和本地监督损失项的联合训练，本地模型在保持原有数据分布优势的同时，能够获得更高的全局准确率。

本发明授权一种用于工业异构设备的对比双焦点知识蒸馏联邦学习方法在权利要求书中公布了：1.一种用于工业异构设备的对比双焦点知识蒸馏联邦学习方法，其特征在于，所述方法包括以下步骤：步骤S1：通过1个服务器和N个客户端构建对比双焦点知识蒸馏联邦学习模型，完成K类分类任务，每个客户端拥有一个本地数据集；各个客户端分别在本地数据集上进行预训练，得到初始化本地模型；步骤S2：客户端与服务器进行联邦学习训练，在客户端与服务器进行第q轮通信中，将各客户端的本地模型输出的知识在服务器进行聚合，得到知识，用于更新全局模型，在第i次迭代中，全局模型输出的知识为；步骤S3：利用softmax函数，根据聚合的知识和全局模型输出的知识，分别计算客户端的隐性概率和显性概率矩阵以及全局模型第i次迭代时服务器的隐性概率和显性概率矩阵，并通过KL散度求得隐性损失项和显性损失项，用两个超参数，将隐性损失项和显性损失项联系起来作为双焦点知识蒸馏损失项；步骤S4：在第i次迭代中，利用双焦点知识蒸馏损失项对全局模型进行更新，生成新一轮的全局模型，直至i=ES，得到全局模型，全局模型输出的知识为，其中，ES为设定的服务器的迭代次数；步骤S5：服务器将全局模型和其输出的知识的发送到各个客户端，在第f次迭代中，本地模型输出的知识为，；步骤S6：利用KL散度计算全局模型输出知识与本地模型输出知识的KL散度损失项；步骤S7：根据全局模型和本地模型输出的特征值计算相似矩阵M，并求得对比损失项，其中，表示平均值；步骤S8：将对比损失项和KL散度损失项利用，两个超参数联系起来作为客户端蒸馏总损失项；步骤S9：在第f次迭代中，利用客户端蒸馏总损失项对本地模型进行更新，生成本地模型；步骤S10：将本地数据输入到本地模型中，计算真实标签与预测结果的交叉熵，作为硬性指标监督损失项；步骤S11：将第f-1次迭代的本地模型输出的特征值视为负样本，将全局模型输出值视为正样本，计算对比监督损失项；步骤S12：将硬性指标监督损失项和对比监督损失项，利用，两个超参数联系起来作为客户端模型监督总损失项；步骤S13：在第f次迭代中，利用客户端模型监督总损失项，对本地模型进行更新，生成新一轮的本地模型，步骤S14，重复执行步骤S6-S13，直至f=EC，得到本地模型，其中，EC为设定的客户端的迭代次数；步骤S15：重复执行步骤S2-S4，将各个客户端的本地模型输出的知识在服务器进行聚合，得到知识，用于更新服务器端全局模型；步骤S16：重复步骤S2-S15，直至客户端与服务器通信轮数达到设定值E，则完成训练。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人南京邮电大学，其通讯地址为：210023 江苏省南京市栖霞区文苑路9号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。