买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉天翼云科技有限公司申请的专利推理结果确定方法、装置、计算机设备、存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120409713B 。

龙图腾网通过国家知识产权局官网在2025-09-30发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510922166.7，技术领域涉及：G06N5/04；该发明授权推理结果确定方法、装置、计算机设备、存储介质是由王鑫设计研发完成，并于2025-07-04向国家知识产权局提交的专利申请。

本推理结果确定方法、装置、计算机设备、存储介质在说明书摘要公布了：本申请涉及一种推理结果确定方法、装置、计算机设备、存储介质。所述方法包括：通过在推理服务更新的过程中，接收由目标Prompt模板和推理请求中携带的请求数据进行拼接得到目标请求，根据目标请求中模型版本标识，从推理服务对应的多个推理实例中确定目标请求中模型版本标识对应的目标推理实例，以通过目标推理实例基于目标请求确定推理结果。实现动态适配推理实例与Prompt模板的架构，保证推理实例与prompt模板的匹配关系，以避免出现因推理实例与prompt模板不兼容导致推理实例上部署的推理模型的推理效果欠佳的情况，保证了推理服务更新的过程中可以得到良好的推理效果。

本发明授权推理结果确定方法、装置、计算机设备、存储介质在权利要求书中公布了：1.一种推理结果确定方法，其特征在于，所述方法应用于第一推理实例，在推理服务更新的过程中，所述方法包括： 接收Prompt实例发送的目标请求；所述目标请求为所述Prompt实例将目标Prompt模板和推理请求中携带的请求数据进行拼接得到，所述目标Prompt模板为所述Prompt实例基于所述推理请求对应的模型版本标识、各所述模型版本标识与不同Prompt模板之间的映射关系确定，所述推理请求为网关根据各所述模型版本标识对应的数量占比，利用所述模型版本标识对接收到的多个用户请求进行标记得到，所述数量占比为所述网关接收的注册中心发送的占比，所述数量占比为所述注册中心根据各所述模型版本标识下实例集合中推理实例的实例数量与总实例数量的比值确定，所述总实例数量为各所述实例集合中推理实例的总数量，所述实例集合中推理实例为健康状态的推理实例； 根据所述目标请求中模型版本标识，从推理服务对应的多个推理实例中确定所述目标请求中模型版本标识对应的目标推理实例，以通过所述目标推理实例基于所述目标请求确定推理结果。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人天翼云科技有限公司，其通讯地址为：100007 北京市东城区青龙胡同甲1号、3号2幢2层205-32室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。