买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：陕西科技大学

摘要：本发明公开了一种基于原型联邦学习的异质性模型距离校正与聚合方法，在客户端，设置一个用于提取异质性图像深层特征的嵌入层网络，利用该网络对输入的异质性图像提取特征并输出到低维空间中得到嵌入向量，随后对处于同一空间的嵌入向量平均聚类得到局部原型；在服务器端，接收客户端上传的局部原型，并将局部原型与上一轮全局原型的范式距离作为本轮局部原型的聚合权重，对局部原型进行加权聚合形成新的全局原型，并下发至参与训练的客户端，进行下一轮的学习。本发明能够提高横向联邦训练模型的准确度、降低数据样本与训练设备异质性对模型的负面影响。

主权项：1.一种基于原型联邦学习的异质性模型距离校正与聚合方法，其特征在于，包括：在客户端，设置一个用于提取异质性图像深层特征的嵌入层网络，利用该网络对输入的异质性图像提取特征并输出到低维空间中得到嵌入向量，随后对处于同一空间的嵌入向量平均聚类得到局部原型；并对联邦平均FedAvg算法的局部目标函数添加修正项以进行改进，修正项为局部原型与下发的全局原型的对比损失函数，基于改进后的FedAvg算法的损失函数做梯度下降优化更新本地模型，并将更新后的模型保留在本地，之后将局部原型上传至服务器；在服务器端，接收客户端上传的局部原型，并将局部原型与上一轮全局原型的范式距离作为本轮局部原型的聚合权重，对局部原型进行加权聚合形成新的全局原型，并下发至参与训练的客户端，进行下一轮的学习；其中：在客户端，将得到的局部原型表示为： 其中，xi表示客户端i所拥有的异质性图像数据样本集合，yi则表示xi所对应的数据标签，表示在联邦学习全局通信第t轮，客户端i第k类的局部原型，Si,k表示表示客户端i第k类的局部原型的异质性图像样本集合，|Si,k|表示Si,k的大小，gφxi表示xi的嵌入向量，i∈[1,n]，n为参与训练的客户端数量，k∈[1,K]，K为各个客户端发送的局部原型类别数量；在客户端，定义基于原型联邦学习FedMPD算法的局部优化目标： 其中，ωi表示客户端i的模型参数，表示ωi的优化目标，表示将xi输入模型ωi所得到的预测结果，Nk表示第k类数据的总数量，表示客户端i具有的第k类数据集合，表示的大小，ct,k表示第t轮通信中的第k类的全局原型； 表示有监督学习任务损失，表示第k类原型的所述修正项，为本地异质性图像数据集，λ为修正项参数，N是所有n个客户端异质数据图像实力的总数量； 其中，d为求解范式距离的函数，ct,l表示为非第k类的其他全局原型，r为第k类全局原型与其最近k+1类全局原型之间的距离，定义r的数学表达式为：r＝mindct,k,ct,k+1；在客户端，对所述局部目标函数设定优化约束条件如下： 其中，α为嵌入向量的边际函数，α＝dgφxi,gφxj。

全文数据：

权利要求：

百度查询： 陕西科技大学 基于原型联邦学习的异质性模型距离校正与聚合方法