上海数离信息科技有限责任公司乔龙泉获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉上海数离信息科技有限责任公司申请的专利一种基于绿色分布式算力中心的大模型训练方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120450088B 。
龙图腾网通过国家知识产权局官网在2025-09-19发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510947761.6,技术领域涉及:G06N20/00;该发明授权一种基于绿色分布式算力中心的大模型训练方法及系统是由乔龙泉;郭小松设计研发完成,并于2025-07-10向国家知识产权局提交的专利申请。
本一种基于绿色分布式算力中心的大模型训练方法及系统在说明书摘要公布了:本发明涉及一种基于绿色分布式算力中心的大模型训练方法及系统,属于大模型训练技术领域。其中,该方法包括:获取待训练大模型结构数据,基于待训练大模型结构数据构建模型依赖图,并通过模型拆分策略对待训练大模型结构数据进行拆分得到封装子模块;构建绿色分布式算力中心模型,并获取节点信息,基于绿色分布式算力中心模型和节点信息通过动态拓扑映射策略构建封装子模块的训练拓扑;通过在训练拓扑上进行绿色分布式调度训练封装子模块实现大模型训练。实现了基于绿色分布式算力中心的大模型训练。
本发明授权一种基于绿色分布式算力中心的大模型训练方法及系统在权利要求书中公布了:1.一种基于绿色分布式算力中心的大模型训练方法,其特征在于,包括以下步骤: S1:获取待训练大模型结构数据,基于所述待训练大模型结构数据构建模型依赖图,并通过模型拆分策略对所述待训练大模型结构数据进行拆分得到封装子模块; S2:构建绿色分布式算力中心模型,并获取节点信息,基于所述绿色分布式算力中心模型和所述节点信息通过动态拓扑映射策略构建所述封装子模块的训练拓扑; S3:通过在所述训练拓扑上进行绿色分布式调度训练所述封装子模块实现大模型训练; 所述步骤S1中的模型依赖图的构建过程为:将所述待训练大模型结构数据作为节点,将网络层之间的数据流依赖关系作为边构建模型有向图;所述模型有向图的边携带数据传输量和时间戳标签,并标注节点计算代价形成所述模型依赖图; 所述步骤S1中的模型拆分策略的拆分过程为: S101:获取所述模型依赖图的依赖关系节点对,计算所述依赖关系节点对的通信代价; S102:遍历所述模型依赖图的边集,并通过所述通信代价的计算得到全局通信代价矩阵; S103:基于所述全局通信代价矩阵通过最小割算法分割所述模型依赖图输出模型子图; S104:生成输入接口和输出接口,并结合所述模型子图进行封装得到封装模型子模块; S105:将所述封装模型子模块通过拓展均衡约束优化输出所述封装子模块。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人上海数离信息科技有限责任公司,其通讯地址为:201101 上海市闵行区新龙路1333弄15幢143号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。