买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉杭州电子科技大学申请的专利一种基于知识蒸馏的联邦学习通信方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119692434B 。

龙图腾网通过国家知识产权局官网在2025-12-02发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411710378.0，技术领域涉及：G06N3/098；该发明授权一种基于知识蒸馏的联邦学习通信方法及系统是由钟华;王壬镇;李战楠;冯亚沛;王梦圆;黄建华设计研发完成，并于2024-11-27向国家知识产权局提交的专利申请。

本一种基于知识蒸馏的联邦学习通信方法及系统在说明书摘要公布了：本发明公开了一种基于知识蒸馏的联邦学习通信方法及系统，方法包括如下步骤：步骤1、初始化学生模型参数、教师模型参数，设置相关参数；步骤2、每个客户端进行本地训练，分别对教师模型和学生模型进行训练；步骤3、计算学生模型的平均logits并上传至服务器；步骤4、服务器计算全局平均logits及全局蒸馏损失，并下发全局平均logits；步骤5、更新学生模型参数和教师模型参数。本发明既能够减少通信数据量，又能保证全局模型在处理非IID数据时的适应性和泛化能力。

本发明授权一种基于知识蒸馏的联邦学习通信方法及系统在权利要求书中公布了：1.一种基于知识蒸馏的联邦学习通信方法，其特征是，包括如下步骤： 步骤1、初始化学生模型参数、教师模型参数，设置相关参数； 步骤2、每个客户端进行本地训练，分别对教师模型和学生模型进行训练； 步骤3、计算学生模型的平均logits并上传至服务器； 步骤4、服务器计算全局平均logits及全局蒸馏损失，并下发全局平均logits； 步骤5、更新学生模型参数和教师模型参数； 步骤1具体如下： 步骤1.1、初始化学生模型参数； 步骤1.2、初始化教师模型参数； 步骤1.3、设置教师学习率、学生学习率、批量大小B、训练轮次T； 步骤1.4、设置损失权重； 步骤2具体如下：对于本地数据Di中的每个批次B； 步骤2.1、教师模型计算输出logits： 其中，表示教师模型函数，x表示输入数据，表示教师模型参数； 步骤2.2、学生模型计算输出logits： 其中，表示学生模型函数，表示学生模型参数； 步骤2.3、计算任务损失： 其中，CE表示交叉熵损失函数，y表示标签； 步骤2.4、计算蒸馏损失： 其中，KL表示散度函数，表示softmax函数，表示温度系数； 步骤2.5、计算隐藏层损失： 其中，表示学生模型隐藏层损失函数，表示教师模型隐藏层损失函数； 步骤2.6、计算总损失： 其中，表示本地知识蒸馏损失值； 步骤2.7、更新教师模型参数： 其中，表示教师模型参数的梯度； 步骤2.8、更新学生模型参数： 其中，表示学生模型参数的梯度； 步骤3具体如下：对于每个类别，计算类别的平均logits： 其中，表示每种类别对应的样本总数； 训练结束后，客户端将学生模型的logits上传至服务器； 步骤4具体如下： 服务器计算全局平均logits：，下发全局平均logits； 其中，N表示客户端数量； 计算全局蒸馏损失： 其中，C表示类别数量； 步骤5具体如下： 更新学生模型参数： 更新教师模型参数： 。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人杭州电子科技大学，其通讯地址为：310018 浙江省杭州市钱塘区白杨街道2号大街1158号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。