龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：浙江大学
摘要：本发明公开了资源受限场景下基于梯度的子模型抽取的联邦学习方法，首先在公共数据集中选出与客户端私有数据集相似的公共子数据集，用来对服务器端的全局模型进行反向传播操作，得到全局模型中每个神经元的梯度；然后根据梯度对全局模型进行抽取形成子模型；在深度模型中，按照每层从浅到深选取神经元，根据相应客户端能训练模型的最大能力，在每层中按照神经元梯度绝对值的大小，从高到低依次选择，直到满足本层最大训练个数为止。本发明提供了一种在客户端资源受限情况下的联邦学习的训练方式，对服务器端的模型按照梯度在神经元级别上剪裁，充分利用各方计算资源与私有数据，从而使得资源受限联邦学习效果达到最接近普通联邦学习的效果。
主权项：1.资源受限场景下基于梯度的子模型抽取的联邦学习方法，其特征在于，包括以下步骤：S1、初始化中心服务器和客户端，初始化服务器上的全局模型的参数；S2、服务器挑选本轮次需要参与训练的客户端；S3、根据不同客户端从上个轮次保存的历史模型在公共数据集上挑选出适用不同客户端的公共子数据集，这些公共子数据集与相应客户端私有数据有相似的数据分布；S4、根据挑选出的公共子数据集在服务器上对全局模型进行反向传播，并且保存整个模型每一个神经元的梯度；S5、根据梯度信息从全局模型中按层挑选神经元组成用于客户端训练的子模型，并且将子模型发送给相应的客户端；S6、客户端从服务器接受子模型，子模型基于本地私有数据进行训练，并将训练完成的子模型上传到服务器；S7、服务器接受本轮次所有客户端的上传的模型，并保存这些模型，然后匹配对应神经元的位置进行聚合，最终得到本轮次的全局模型；S8、步骤S2～S5为一个轮次训练，每次均重复这个轮次，直到模型能力符合要求为止。
全文数据：
权利要求：
百度查询： 浙江大学 资源受限场景下基于梯度的子模型抽取的联邦学习方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号