买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：华南理工大学

摘要：本发明公开一种基于异构资源之上的联邦学习训练和预测方法及系统，所述方法包括如下步骤：服务端确定卷积神经网络模型的学习任务和预测函数；使用联邦学习训练机器学习模型，对联邦学习场景中异构设备的计算和通信资源进行建模，根据边缘设备训练过程的所产生的延时来不断估计，并区分不同设备的资源异构特征，并提出两种策略以适应性地去调整联邦学习每轮选择边缘设备的方式以及训练过程为边缘设备所设置的训练强度，以充分利用高性能边缘设备的计算资源，减少通信、以及掉队边缘设备所带来的影响，本发明能够估计异构设备的差异性，并加快联邦学习训练的速度，对训练过程进行优化，同时能保护多参与方的数据隐私。

主权项：1.一种基于异构资源之上的联邦学习训练和预测方法，其特征在于，包括如下步骤：S1、服务端确定卷积神经网络模型的学习任务和预测函数；S2、参数服务器初始化神经网络模型参数，以及各个边缘设备的MAB模型参数；随机选择若干设备，向每个被选中设备发布预设的卷积神经网络模型参数；S3、设备利用本地数据训练服务器发来的模型参数后将训练结果返回给服务端；S4、参数服务器在收到满足条件的本地模型参数后，利用设备训练所产生的信息来更新卷积神经网络的全局模型参数；S5、服务器根据MAB模型，从候选边缘设备列表中选择部分边缘设备进行本地模型训练，步骤S5包括：参数服务器利用MAB模型估计设备计算、通信资源的异构性，并据此从候选边缘设备列表中选择部分边缘设备进行本地模型训练，具体包括：参数服务器为每个边缘设备i维护关于计算能力和通信能力的MAB模型参数：Δi分别表示计算能力的经验均值、通信能力的经验均值、和用于估计UCB上界的信息参数； 其中，ni表示设备i至今被选中的次数，为设备i通信能力的一次观测值，为设备i计算能力的一次观测值，M为边缘设备的总数；设备i的计算能力的上界表示为：每个设备i的通信能力的上界表示为：在获取到每个设备的计算能力和通信能力的上界，定义每个设备的奖励ri：μ1、μ2表示为奖励设置中计算能力和通信能力的权重参数；以各个设备的奖励作为被选中的权重，随机从候选的设备列表中选出若干设备，选择的设备个数和当前活跃的设备数即当前正处于训练的设备数之和等于C，且不含重复设备；具体方式采用轮盘赌算法，首先计算所有设备权重的总和sum，生成从0-sum之间的一个随机数random，然后遍历所有的设备，将sum减去设备的权重，直到减为负数时该设备被选中，将此设备从中剔除，反复执行上述选择方法，得到被选中的设备列表；S6、利用被选的边缘设备的MAB模型，为被选中的边缘设备设置训练强度，并回到步骤S3，直到全局模型聚合的次数到达预设的数目。

全文数据：

权利要求：

百度查询： 华南理工大学 一种基于异构资源之上的联邦学习训练和预测方法及系统