买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜深存科技(无锡)有限公司申请的专利AI模型推理方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114706518B 。

龙图腾网通过国家知识产权局官网在2025-03-28发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210325959.7，技术领域涉及：G06F3/0482；该发明授权AI模型推理方法是由叶萌设计研发完成，并于2022-03-30向国家知识产权局提交的专利申请。

本AI模型推理方法在说明书摘要公布了：本申请公开一种AI模型推理方法和推理平台，涉及软件技术领域，AI模型推理平台通过Tensorrt部署至少一个AI模型；方法包括：接收第一终端发送的数据上传指令，将上传指令中的目标数据资源存储至Redis数据库；响应于从Redis数据库中检测到目标数据资源对应的数据标识码，从Redis数据库中提取目标数据资源，并确定出目标AI模型；响应于目标AI模型满足模型推理条件，对目标数据资源进行模型推理，并向第一终端下发模型推理结果。本发明通过平台可以适应多种框架模型，将终端上传的资源输入至AI推理模型中进行推理输出，且能够实现模型在线共享和更新，简化终端通过编辑脚本启动和输入的过程，提高模型推理的效率。

本发明授权AI模型推理方法在权利要求书中公布了：1.一种AI模型推理方法，其特征在于，所述方法用于AI模型推理平台，所述AI模型推理平台通过Tensorrt部署至少一个AI模型；所述方法包括：接收第一终端发送的数据上传指令，将所述数据上传指令中的目标数据资源存储至Redis数据库；所述目标数据资源包括图片和视频中的至少一种，所述Redis数据库中包含有与所述AI模型推理平台建立通讯连接的所有终端发送的数据资源；响应于从所述Redis数据库中检测到所述目标数据资源对应的数据标识码，从所述Redis数据库中提取所述目标数据资源，并确定出目标AI模型；所述目标数据资源为所述第一终端上传并缓存至所述Redis数据库中的数据资源；其中，当所述目标AI模型未启动时，先启动目标AI模型，并对目标数据资源进行预处理；响应于所述目标AI模型满足模型推理条件，对所述目标数据资源进行模型推理，并向所述第一终端下发模型推理结果；具体为再次获取所述目标AI模型的模型状态信息；当模型状态信息指示处于模型更新状态时，向所述第一终端发送第一提示信息；其中，所述第一提示信息用于指示模型状态信息在所述第一终端外的其他终端进行模型更新时改变，关闭了对所述目标AI模型的操作权限；基于所述第二终端上传的更新文件进行模型更新，并在模型更新完成后重新恢复其他终端对所述目标AI模型的操作权限；当模型状态信息指示处于运行状态时，基于预处理后的目标数据资源，通过TensorRT加速引擎加快所述目标AI模型的推理过程，并生成模型推结果；向所述第一终端下发模型的前向推理输出结果；或，基于推理输出文件生成文件压缩包，并向所述第一终端下发所述文件压缩包的下载链接。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人深存科技(无锡)有限公司，其通讯地址为：214000 江苏省无锡市新吴区弘毅路10号金乾座401、402室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。