思腾合力(天津)科技有限公司王波获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉思腾合力(天津)科技有限公司申请的专利模型管理资源池动态调配方法、装置、服务器及介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120631602B 。
龙图腾网通过国家知识产权局官网在2025-11-21发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511133730.3,技术领域涉及:G06F9/50;该发明授权模型管理资源池动态调配方法、装置、服务器及介质是由王波;国英龙;王巧;程丽丽;王亚江设计研发完成,并于2025-08-14向国家知识产权局提交的专利申请。
本模型管理资源池动态调配方法、装置、服务器及介质在说明书摘要公布了:本发明公开了一种模型管理资源池动态调配方法、装置、服务器及介质,属于大模型领域,包括:计算得到待训练模型的多个子任务,获取每个子任务的参数;根据子任务的参数确定每种预设容器的时长适配性;根据每种预设容器的时长适配性和每个子任务的参数,计算得到与每个子任务适配的容器类型和对应的数量的第一序列集合;从第一序列集合中选取满足训练精度要求的第二序列集合;计算第二序列集合中每个容器的使用效率,使用效率为利用硬件使用率和等待时长计算得到的综合参数;根据每个容器的使用效率得到最优排序组合,并根据最优排序组合为容器分配训练任务。使得服务器可尽可能利用较少的容器资源和较短的时长快速高效的完成模型训练。
本发明授权模型管理资源池动态调配方法、装置、服务器及介质在权利要求书中公布了:1.一种模型管理资源池动态调配方法,其特征在于,包括: 计算得到待训练模型的多个子任务,获取每个子任务的参数; 根据子任务的参数确定每种预设容器的时长适配性; 根据每种预设容器的时长适配性和每个子任务的参数,计算得到与每个子任务适配的容器类型和对应的数量的第一序列集合,所述时长适配性是预设容器对训练任务在时间维度的适合性; 从所述第一序列集合中选取满足训练精度要求的第二序列集合; 计算所述第二序列集合中每个容器的使用效率,所述使用效率为利用硬件使用率和等待时长计算得到的综合参数; 根据每个容器的使用效率得到最优排序组合,并根据最优排序组合为容器分配训练任务; 所述根据子任务的参数确定每种预设容器的时长适配性,包括: 根据每个子任务的参数生成训练阶段曲线,并计算由训练阶段曲线围成的曲线区域的面积; 根据曲线区域的面积将所述训练阶段曲线转换为对应的水平线段; 获取每种预设容器的属性,所述属性包括运算能力,加载能力和所述预设容器之间的通信能力; 根据所述水平线段确定平均参数量,并根据平均参数量和每种预设容器的属性确定每种预设容器对训练任务的时长适配性; 根据所述水平线段确定平均参数量,并根据平均参数量和每种预设容器的属性确定每种预设容器对训练任务的时长适配性,采用如下方式实现: , =max+,其中,=P,=,=,为平均参数量对应的容器计算时长,为平均参数量对应的容器读入时长,为平均参数量对应的容器通信时长,P为平均参数量,为平均参数量对应的输入数据量,为平均参数量对应的输出数据量,为容器的运算能力,为容器的加载能力,为容器的通信能力,A为容器对训练任务的时长适配性,为动态基准值,为容器对应平均参数量的最大处理时长。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人思腾合力(天津)科技有限公司,其通讯地址为:301799 天津市滨海新区经济技术开发区逸仙科学工业园翠浦道1号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励