买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：西安电子科技大学;广州云趣信息科技有限公司;广州链融信息技术有限公司

摘要：本发明公开了一种抵御后门攻击的异构联邦训练和推理方法，包括云服务该方法是在全局模型生成时嵌入BN层来记录训练中神经元激活数据的方差和均值，然后在训练阶段通过KL散度度量神经元激活分布和Bottom‑K投票筛选出良性客户端，最后在推理阶段，将任务数据集输入到训练好的全局模型，从而得到每个类别的概率分布，进而用最大值或者均值将所有概率分布进行聚合，得到推理结果。本发明解决了现有的防御方法在数据异构情况下防御后门攻击的效果差、大部分后门攻击检测方法需要有额外数据集、异构联邦学习没有研究在推理阶段对后门攻击进行抑制等问题。

主权项：1.一种抵御后门攻击的异构联邦训练和推理方法，所述异构联邦包括数据异构和模型异构，所述数据异构是指客户端本地数据分布为非独立同分布，所述模型异构是指一个云服务器包含多个客户端集群，而每个客户端集群中的模型结构不一定相同；其特征在于，包括以下步骤：步骤1、云服务器初始化任务和客户端集群，随机初始化每个客户端集群的全局模型{ω1,ω2,…,ωq}，q为客户端集群的个数，ωq代表第q个全局模型，每个全局模型ω1,ω2,…,ωq之间为异构关系；其中，在全局模型初始化时，在每个全局模型的第一个卷积层后嵌入一个批量归一化层即BN层，该BN层使用小批量的统计数据来标准化每个神经元每层中的数据；步骤2、云服务器按照固定比例α为每个客户端集群选择参与本轮训练的客户端集合Wq，并且将对应客户端集群的全局模型ωq下发给选中的客户端集合Wq作为本地模型；步骤3、客户端i使用本地数据集Di进行训练，直至本地模型收敛，得到训练后的本地模型ωq,i，并上传本地模型ωq,i到云服务器；步骤4、云服务器对每个客户端集群的本地模型{ωq,1,ωq,2,…,ωq,i}进行后门攻击检测，计算每个客户端的BN层与其余客户端的BN层的KL散度，基于KL散度，利用Bottom-K算法选出与每个客户端相近的客户端进行投票，筛选出获得投票数大于预设值的客户端作为良性客户端，该良性客户端的本地模型则为良性模型；步骤5、聚合各个客户端集群的良性模型，并重新选择每个客户端集群参与本轮训练的客户端集合然后下发新的全局模型发送给客户端集合步骤6、重复步骤2至步骤5，直至所有全局模型{ω1,ω2,…,ωq}收敛；步骤7、云服务器初始化联邦推断任务T，包括任务数据集Dt和所有训练好的全局模型{ω1,ω2,…,ωq}；步骤8、将任务数据集Dt输入到训练好的全局模型{ω1,ω2,…,ωq}中，得到每个类别的概率分布，云服务器将所有的概率分布输入到聚合函数Agg中，从而得到不受后门攻击和异构影响的预测类别标签y作为最终的推理结果。

全文数据：

权利要求：

百度查询： 西安电子科技大学 广州云趣信息科技有限公司 广州链融信息技术有限公司 一种抵御后门攻击的异构联邦训练和推理方法