买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:北京交通大学
摘要:本发明提供了一种基于知识蒸馏和锐度感知最小化的个性化联邦学习方法。该方法包括:服务器生成全局共享无标签伪数据集,并下发给各个客户端;客户端利采用锐度感知最小化方法对本地模型进行优化,得到优化后的本地模型wc;客户端利用本地数据集和无标签伪数据集生成本地知识,服务器对各个客户端的本地知识中的logits依据权重系数进行加权运算得到全局将由全局原型p和全局构成的全局知识下发给各个客户端;客户端根据本地logits和全局知识中的全局对本地模型wc进行更新。本发明利用无标签伪数据集作为公共数据集进行知识蒸馏,就能够实现良好的性能。服务器利用权重对本地知识进行聚合,以获得高质量的全局知识,用于提升本地模型性能。
主权项:1.一种基于知识蒸馏和锐度感知最小化的个性化联邦学习方法,其特征在于,包括:服务器生成全局共享无标签伪数据集,将无标签伪数据集下发给各个客户端;客户端利用本地数据训练本地模型,采用锐度感知最小化方法对本地模型进行优化,得到优化后的本地模型wc;客户端利用本地数据集和所述无标签伪数据集生成本地知识,所述本地知识包括客户端本地各类原型和客户端本地模型对无标签伪数据样本的预测值服务器对各个客户端的本地知识中的本地原型进行加权平均操作,得到全局原型对各个客户端的本地知识中的logits依据权重系数进行加权运算得到全局将由全局原型和全局构成的全局知识下发给各个客户端;客户端根据本地logits和全局知识中的全局对本地模型wc进行更新。
全文数据:
权利要求:
百度查询: 北京交通大学 基于知识蒸馏和锐度感知最小化的个性化联邦学习方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。