恭喜西安电子科技大学冯昊阳获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜西安电子科技大学申请的专利一种跨数据中心分布式机器学习通信方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN118509116B 。
龙图腾网通过国家知识产权局官网在2025-04-18发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202410618075.X,技术领域涉及:H04L1/00;该发明授权一种跨数据中心分布式机器学习通信方法及系统是由冯昊阳;顾华玺;周肇星;王琨;余晓杉设计研发完成,并于2024-05-17向国家知识产权局提交的专利申请。
本一种跨数据中心分布式机器学习通信方法及系统在说明书摘要公布了:本发明公开了一种跨数据中心分布式机器学习通信方法及系统,通过训练节点按照根据估计的带宽确定的发送速率将多个梯度数据包发送至与自身建立RUDP连接的参数服务器后,参数服务器对采用FEC编码的高优先级的梯度数据进行修复,并在实际丢包率高于Bubble‑Filling丢包率阈值时,对丢失的低优先级的梯度数据利用Bubble‑Filling机制进行填充,并对修复和填充后的梯度数据进行梯度数据聚合,得到聚合梯度数据,将聚合梯度数据发送至训练节点;训练节点根据聚合梯度数据更新模型参数,继续训练,直至训练完成,从而显著提高了训练效率,且提高了跨数据中心分布式机器学习通信方法的可靠性。
本发明授权一种跨数据中心分布式机器学习通信方法及系统在权利要求书中公布了:1.一种跨数据中心分布式机器学习通信方法,其特征在于,所述方法包括:训练节点对训练模型时计算出的梯度数据进行封装处理,得到多个梯度数据包;训练节点进行带宽估计,并根据估计的带宽确定发送速率;训练节点按照所述发送速率将所述多个梯度数据包发送至与自身建立RUDP连接的参数服务器;所述梯度数据包的包头中携带了梯度数据的优先级,所述优先级包括高优先级和低优先级;其中,高优先级的梯度数据采用FEC编码;参数服务器对高优先级的梯度数据进行修复,并在实际丢包率高于Bubble-Filling丢包率阈值时,对丢失的低优先级的梯度数据利用Bubble-Filling机制进行填充;参数服务器对修复和填充后的梯度数据进行梯度数据聚合,得到聚合梯度数据,并将所述聚合梯度数据发送至训练节点;训练节点根据所述聚合梯度数据更新模型参数,继续训练,直至训练完成;训练节点根据估计的带宽确定发送速率的方式,包括:在每个数据包传输窗口期的初始时刻,根据估计的带宽计算初始的发送速率;在每个数据包传输窗口期内,监测梯度数据包的丢失情况;当连续多个往返时延内都没有丢包时,提高发送速率;当检测到丢包时,按照如下过程调整发送速率:若所述实际丢包率低于拥塞控制的目标丢包率,提高发送速率;若所述实际丢包率高于所述目标丢包率且低于所述Bubble-Filling丢包率阈值时,维持当前的发送速率;若所述实际丢包率高于所述Bubble-Filling丢包率阈值,将当前的发送速率降低至一半。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西安电子科技大学,其通讯地址为:710071 陕西省西安市太白南路2号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。