首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种自适应进化剪枝策略的联邦学习方法 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:烟台工程职业技术学院(烟台市技师学院)

摘要:本申请涉及联邦学习技术领域,特别是涉及一种自适应进化剪枝策略的联邦学习方法,通过在服务器端部署一个过参数化的超网网络来学习所有客户端多样的私有数据分布,同时每个客户端建立与其私有数据分布相适应的子网。通过结构化剪枝方法减小子网体积,不仅降低了通信成本,还提高了模型的本地个性化程度。每个客户端能够根据本地数据自行更新子网染色体编码,从而自适应地调整模型结构。这样的设计使得模型更加贴合各个客户端的特定需求,同时减少了计算和存储资源的需求。此外,服务器通过集成所有客户端的输入来更新全局模型,增强了模型的泛化能力和鲁棒性。

主权项:1.一种自适应进化剪枝策略的联邦学习方法,其特征在于,包括:构建超网网络和初始子网染色体,所述超网网络是过参数的网络;对所述超网网络进行特征图编码,得到多个具有编码的特征图;所述服务器将所述超网网络、所述初始子网染色体、所述特征图和所述特征图的所述编码下发至多个客户端;对每个所述客户端,根据所述初始子网染色体对所述特征图进行结构化剪枝得到个性化的子网网络,将本地数据输入所述子网网络进行训练得到子网网络的特征图,基于所述子网网络的特征图更新接收到的所述特征图的所述编码,将子网网络的特征图、更新后的所述特征图的所述编码发送至所述服务器;所述服务器基于多个所述客户端的子网网络的特征图和更新后的所述特征图的所述编码进行超网网络模型参数聚合,基于参数聚合的结果对多个所述客户端的所述超网网络模型权重进行更新;对每个所述客户端,分别基于迭代优化算法进行子网染色体更新,根据更新后的所述子网染色体对所述特征图进行再次结构化剪枝,基于所述再次结构化剪枝的结果再次更新所述特征图的所述编码;将多个所述客户端的再次剪枝后的特征图和再次更新后的特征图的编码发送给所述服务器,实现联邦学习全局特征聚合;所述服务器将聚合后的全局特征再次下发到多个所述客户端,多个所述客户端按照本地的特征图编码抽取特征后,重新开始新的训练,直到联邦学习训练结束为止。

全文数据:

权利要求:

百度查询: 烟台工程职业技术学院(烟台市技师学院) 一种自适应进化剪枝策略的联邦学习方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。