买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京瑞莱智慧科技有限公司申请的专利模型调用方法、相关装置及存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121210181B 。

龙图腾网通过国家知识产权局官网在2026-03-17发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511725870.X，技术领域涉及：G06F9/54；该发明授权模型调用方法、相关装置及存储介质是由请求不公布姓名设计研发完成，并于2025-11-24向国家知识产权局提交的专利申请。

本模型调用方法、相关装置及存储介质在说明书摘要公布了：本申请实施例涉及人工智能领域，提供一种模型调用方法、相关装置及存储介质，模型调用方法包括：确定目标大语言模型对应的第一服务实例集合，其中，第一服务实例集合包括多个模型服务实例；将第一服务实例集合分成多个第二服务实例集合，其中，每个第二服务实例集合包括至少一个模型服务实例；生成第一服务实例集合对应的全局识别码和多个第二服务实例集合对应的多个局部识别码，并放入识别码集合；当获取到客户端发起的推理请求时，获取推理请求中的目标识别码；当目标识别码属于识别码集合，则从目标识别码对应的服务实例集合中选取一个模型服务实例，作为目标模型服务实例；基于目标模型服务实例响应推理请求。本申请能够提高模型调用效率。

本发明授权模型调用方法、相关装置及存储介质在权利要求书中公布了：1.一种模型调用方法，其特征在于，所述模型调用方法由电子设备执行，所述模型调用方法包括： 确定目标大语言模型对应的第一服务实例集合，其中，所述第一服务实例集合包括基于所述目标大语言模型在多个服务器集群部署的多个模型服务实例、多个不同外部模型提供方为所述目标大语言模型部署的多个模型服务实例，服务器集群为多个部署相同芯片型号GPU芯片的服务器组成的集群，电子设备通过局域网访问多个服务器集群创建的多个模型服务实例，电子设备通过外部互联网与外部模型提供方提供的模型服务实例进行通信； 将所述第一服务实例集合分成多个第二服务实例集合，其中，每个所述第二服务实例集合包括至少一个所述模型服务实例，将同一个所述服务器集群的多个所述模型服务实例放入一个所述第二服务实例集合，将同一个所述外部模型提供方的所述模型服务实例放入一个所述第二服务实例集合； 生成所述第一服务实例集合对应的全局识别码和多个所述第二服务实例集合对应的多个局部识别码，并放入识别码集合，通过所述第一服务实例集合对应的全局识别码和多个第二服务实例集合对应的多个局部识别码建立双层识别码架构； 当获取到客户端发起的推理请求时，所述推理请求包括模型调用地址url、识别码字段default_headers、调用者鉴权参数api_key、推理内容msg、模型名称参数、大模型的对话上下文messages、输出效果参数，获取所述推理请求中的目标识别码，其中，当所述推理请求不包含识别码字段时，获取所述推理请求中的模型名称参数；确定所述模型名称参数对应的全局识别码；将所述模型名称参数的全局识别码确定为所述目标识别码； 当所述目标识别码属于所述识别码集合，则从所述目标识别码对应的服务实例集合中选取一个模型服务实例，作为目标模型服务实例，其中，获取目标识别码对应的服务实例集合中，各个模型服务实例的当前GPU利用率、请求队列长度指标以及响应延迟指标，基于各个模型服务实例的当前GPU利用率、请求队列长度指标以及响应延迟指标确定实例繁忙度指标，将实例繁忙度指标最低的模型服务实例确定为目标模型服务实例； 基于所述目标模型服务实例响应所述推理请求。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京瑞莱智慧科技有限公司，其通讯地址为：100084 北京市海淀区清华科技园科技大厦A座19层；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。