买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:哈尔滨工业大学
摘要:异步聚类联邦学习方法及装置,解决了现有联邦学习方法在数据异构和环境异构下带来的瓶颈问题,属于联邦学习技术领域。本发明是基于双层架构实现的,包括服务器层和客户端层,本发明学习方法包括:服务器使用客户端发送的哈希值从DAG账本中获取相应客户端的模型参数,根据该模型参数,使用预定义的Tip选择算法选择DAG账本中的Tip节点,将存储在所选择的Tip节点的模型进行聚合得到新的模型,客户端使用本地数据集进行多轮训练;服务器将客户端训练后的模型参数打包成一个新的交易,并链接到之前选择的每个Tip节点的后面,计算新的交易的哈希值给客户端,用于下一次训练,并向其他服务器广播新的交易。
主权项:1.异步聚类联邦学习方法,其特征在于,所述方法基于双层架构实现,所述双层架构包括服务器层和客户端层,服务器层中部署了多个服务器及相应DAG账本,服务器层中的多个服务器之间采用P2P的方式进行通信来同步DAG账本,客户端层中的每个客户端配置有本地数据集,所述客户端为当前参与训练的设备;所述方法包括:S1、客户端选择一个服务器,并建立连接,客户端将最新交易的哈希值传输给选择的服务器;S2、服务器验证哈希值的有效性,并使用哈希值查询DAG账本,从DAG账本中获取相应客户端的模型参数;并根据客户端的模型参数,使用预定义的Tip选择算法选择DAG账本中的Tip节点,将存储在所选择的Tip节点的模型进行聚合得到新的模型,并将新的模型发送给客户端;S3、客户端使用本地数据集对从服务器接收到的新的模型进行多轮训练,得到训练后的模型,将训练后的模型参数返回给服务器;S4、服务器将从客户端接收到的模型参数打包成一个新的交易,服务器把所述新的交易链接到之前选择的每个Tip节点的后面,成为新的Tip节点,计算新的交易的哈希值,将哈希值发送给客户端,用于下一次训练,并向其他服务器广播新的交易;使用预定义的Tip选择算法选择Tip节点的方法包括:计算Tip节点上的模型参数与客户的模型参数之间的相似度,选择相似度高的Tip节点;相似度为: 其中,ωi表示第i个Tip节点上的模型参数,ωclient表示客户的模型参数;应用BEAST算法检测降序排序后的相似度序列的突变点,得到突变点的置信度序列Confidence;选择Confidence中置信度大于阈值α的一个点,将该点前的所有Tip节点作为选择的Tip节点。
全文数据:
权利要求:
百度查询: 哈尔滨工业大学 异步聚类联邦学习方法及装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。