支付宝(杭州)信息技术有限公司丁治强获国家专利权
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
龙图腾网获悉支付宝(杭州)信息技术有限公司申请的专利推理系统的负载感知调度方法和推理系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119149252B 。
龙图腾网通过国家知识产权局官网在2025-07-18发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411646359.6，技术领域涉及：G06F9/50；该发明授权推理系统的负载感知调度方法和推理系统是由丁治强;杨统凯;杜军设计研发完成，并于2024-11-15向国家知识产权局提交的专利申请。
本推理系统的负载感知调度方法和推理系统在说明书摘要公布了：本申请一个或多个实施例提供一种推理系统的负载感知调度方法和推理系统，所述方法应用于推理系统中的全局调度器；所述推理系统还包括推理引擎；所述推理引擎包括部署在计算集群中的各个计算节点上的至少一个计算实例；所述计算实例的计算资源包括所在的计算节点上搭载的GPU；所述全局调度器维护了动态更新的各个计算实例的GPU负载信息；所述方法包括：获取待执行的目标推理请求；基于所维护的各个计算实例的GPU负载信息，确定GPU负载满足预设条件的目标计算实例；将所述目标推理请求发送至所述目标计算实例，以由所述目标计算实例执行所述目标推理请求。
本发明授权推理系统的负载感知调度方法和推理系统在权利要求书中公布了：1.一种推理系统的负载感知调度方法，应用于推理系统中的全局调度器；所述推理系统还包括推理引擎；所述推理引擎包括部署在计算集群中的各个计算节点上的至少一个计算实例，以及部署在所述计算集群中的各个计算节点上的本地调度器；所述计算实例的计算资源包括所在的计算节点上搭载的GPU；所述全局调度器维护了动态更新的各个计算实例的GPU负载信息；所述GPU负载信息包括实例资源利用率；所述实例资源利用率为本地调度器基于计算实例的GPU内存利用率和GPU内存带宽利用率计算出的用于指示GPU负载的指标； 所述方法包括： 获取待执行的目标推理请求； 基于所维护的各个计算实例的GPU负载信息，确定所述实例资源利用率最小的目标计算实例； 将所述目标推理请求发送至目标本地调度器，以由所述目标本地调度器将所述目标推理请求发送至所述目标计算实例，并由所述目标计算实例执行所述目标推理请求；其中，所述目标本地调度器为部署在所述目标计算实例所在的计算节点上的本地调度器。
如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人支付宝(杭州)信息技术有限公司，其通讯地址为：310000 浙江省杭州市西湖区西溪路543号-569号(单号连续)1幢2号楼5层518室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号