买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：南开大学

摘要：本发明公开了一种模型结构动态可变更新的联邦学习方法，将超网网络每一层的剪枝化率表示为基因，多个基因由底层至顶层拼接而成的向量在服务器端构成超网网络染色体；客户端对超网网络进行初始训练，选择基线输入和随机输入的真实图像，通过集成梯度评估每一层特征图之间的重要性；根据特征图的重要性对每个卷积层和全连接层的剪枝进行筛选，移除该层的卷积核和下一层与之对应的所有输入连接；个性化剪枝完毕后，更新全局剪枝率。与现有技术相比，本发明所实现的个性化剪枝技术的应用可以有效减少模型的大小，降低联邦学习的通信和计算负担，并且每个客户端动态地产生适配其资源和应用需求的本地模型。

主权项：1.一种模型结构动态可变更新的联邦学习方法，其特征在于，具体步骤包括：步骤1、服务器构建一个超网网络，所述超网网络用于学习到所有客户端多样的私有数据分布；步骤2、服务器对超网网络的个性化剪枝率问题进行特征图编码；步骤3、将超网网络每一层的剪枝化率表示为基因，多个基因由底层至顶层拼接而成向量，在服务器端构成超网网络染色体；步骤4、服务器将所述超网网络的特征图编码和染色体作为初始染色体下发给各客户端；步骤5、客户端对超网网络进行初始训练，训练过程为将本地数据输入到超网网络进行训练直至超网网络收敛，客户端根据服务器下发的初始染色体进行个性化剪枝；步骤6、选择基线输入和随机输入的真实图像，通过计算特征图与基线图像之间的差异并对该差异乘以从基线到真实输入的路径上特征图梯度的积分得到集成梯度，计算每一层特征图通道内的相关系数，进而评估每一层特征图之间的重要性；步骤7、根据特征图的重要性对每个卷积层和全连接层的剪枝进行筛选，移除该层的卷积核和下一层与之对应的所有输入连接；步骤8、个性化剪枝完毕后，根据接收到的个性化剪枝后的特征图更新客户端；步骤9、客户端将所述个性化剪枝后的客户端特征图发送给服务器；步骤10、服务器接收每个客户端的所述个性化剪枝后的客户端特征图，并根据个性化剪枝后的客户端特征图对超网网络模型参数进行参数融合以实现超网网络更新；步骤11、服务器根据所有客户端的所述个性化剪枝后的客户端特征图来更新全局染色体，检验全局染色体是否满足训练停止条件，若满足条件，则输出全局剪枝率，若不满足条件，则返回至步骤5，继续执行步骤5～步骤11，直至全局染色体训练停止。

全文数据：

权利要求：

百度查询： 南开大学 一种模型结构动态可变更新的联邦学习方法