买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：北京理工大学

摘要：本发明涉及一种基于后门攻击防御的联邦学习鲁棒聚合方法，属于人工智能安全技术领域。本发明包括步骤：1、构建初始化的联邦学习全局模型；2、对所述的联邦学习全局模型进行训练；3、对联邦学习全局模型进行聚合；4、重复步骤2和步骤3，直至联邦学习全局模型聚合达到预期精度或预先协商的训练轮数，此时完成联邦学习模型训练。本发明通过分析联邦学习全局模型关键参数的相似性，对模型参数进行降维、无监督聚类并计算得到局部代理模型，经过降维后模型参数之间的余弦距离划分恶意模型与良性模型，保障离群值检测和无监督聚类的性能。通过欧几里得距离对局部代理模型进行裁剪，能够有效抵抗高幅度值恶意后门攻击，提高了聚合的鲁棒性。

主权项：1.一种基于后门攻击防御的联邦学习鲁棒聚合方法，应用于包括若干客户端和一个中心服务器中，其特征在于：包括以下步骤，步骤1：构建初始化的联邦学习全局模型，中心服务器对联邦学习全局模型参数进行初始化，客户端对本地化的随机梯度下降法进行初始化；步骤2：根据步骤1所述的联邦学习全局模型进行训练；步骤3：根据步骤2所述的经过训练的联邦学习全局模型进行聚合；步骤3.1：中心服务器计算更新模型参数的关键参数相似性得分；步骤3.1.1：中心服务器计算各客户端提交的更新模型参数的top-k参数和bottom-k参数，得到各客户端更新模型参数的top-k参数集合和bottom-k参数集合；步骤3.1.2：中心服务器计算各客户端top-k参数集合间的杰卡德相似度和斯皮尔曼相关系数；步骤3.1.3：中心服务器计算各客户端bottom-k参数集合间的杰卡德相似度和斯皮尔曼相关系数；步骤3.1.4：中心服务器基于杰卡德相似度和斯皮尔曼相关系数计算各客户端更新模型参数的关键参数相似性得分，如式1所示； 其中表示客户端i第t轮训练过程中的top-k参数集合，表示客户端i第t轮训练过程中的bottom-k参数集合，Jaccard为杰卡德相似度计算函数，ρ为斯皮尔曼相关系数计算函数，r为将参数映射到排序位次的函数；步骤3.2：中心服务器计算更新模型参数的平均欧几里得范数；步骤3.3：中心服务器对更新模型参数进行降维；步骤3.3.1：中心服务器将客户端提交的张量形式的更新模型参数展平并拼接；步骤3.3.2：中心服务器使用PCA主成分分析方法对拼接后的更新模型参数进行降维，得到降维后的更新模型参数；步骤3.4：中心服务器计算降维后的更新模型参数之间的余弦距离；如式2所示； 其中costi,j表示第t轮训练中客户端i和j降维后的更新模型参数之间的余弦相似度；步骤3.4.1：中心服务器计算降维后的更新模型参数之间的余弦相似度；步骤3.4.2：中心服务器根据余弦相似度计算降维后的更新模型参数之间的余弦距离；步骤3.5：中心服务器根据步骤3.3所述的余弦距离对降维后的更新模型参数进行OPTICS无监督聚类，得到多个聚类簇；步骤3.6：中心服务器计算聚类簇的局部代理模型；步骤3.6.1：中心服务器获取每个聚类簇中的更新模型参数；步骤3.6.2：中心服务器采用平均聚合的方式聚合每个聚类簇中的更新模型参数，得到每个聚类簇的局部代理模型；步骤3.7：中心服务器计算局部代理模型的关键参数相似性得分；步骤3.7.1：中心服务器求和步骤3.1所述计算得到的每个局部代理模型对应的多个更新模型参数的关键参数相似性得分；步骤3.7.2：中心服务器将多个更新模型参数的关键参数相似性得分总和除以更新模型参数的数量，得到局部代理模型的关键参数相似性得分；步骤3.8：中心服务器利用步骤3.2所述的更新模型参数的平均欧几里得范数裁剪关键参数相似性得分最高的局部代理模型，得到联邦学习全局模型，完成一轮联邦学习全局模型聚合；步骤4：重复步骤2和步骤3，直至联邦学习全局模型聚合达到预期精度或预先协商的训练轮数，此时完成联邦学习模型训练。

全文数据：

权利要求：

百度查询： 北京理工大学 一种基于后门攻击防御的联邦学习鲁棒聚合方法