买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：中邮消费金融有限公司

摘要：本申请公开了一种机器学习模型部署方法、装置、设备及存储介质，涉及机器学习技术领域，该方法包括：通过分布式协调中间件监测各个服务节点，各个服务节点部署有机器学习模型，机器学习模型的预测模型标记语言文件存储在分布式文件存储系统；在接收到模型变更指令时依次调用服务节点上对应的变更接口；从分布式文件存储系统中获取更新的预测模型标记语言文件，并对各个服务节点进行机器学习模型的变更部署。由于本申请通过分布式协调中间件监测机器学习模型部署的各个服务节点，当变更机器学习模型时，可通过分布式协调中间件依次调用对应的变更接口，而无需重新启动所有模型，实现了在不停服的前提下进行模型动态变更部署，保证了服务的连续性。

主权项：1.一种机器学习模型部署方法，其特征在于，所述的方法包括：通过分布式协调中间件监测各个服务节点，所述各个服务节点部署有机器学习模型，所述机器学习模型基于SpringBoot框架和JPMML框架构建获得，所述机器学习模型的预测模型标记语言文件存储在分布式文件存储系统上，其中，在集群中的多个服务节点上存储多个副本，引入分布式协调中间件，把所有的服务节点作为服务端注册到分布式协调中间件上进行记录和维护，当有服务节点进行变更时，分布式协调中间件自动识别变更，分布式协调中间件包括ZooKeeper分布式应用协调中间件或Etcd分布式键值存储系统；在接收到模型变更指令时，根据所述模型变更指令依次调用各个服务节点上的机器学习模型对应的变更接口；通过所述变更接口，从所述分布式文件存储系统中获取更新的预测模型标记语言文件；根据所述更新的预测模型标记语言文件，对各个服务节点进行机器学习模型的变更部署；其中，所述通过分布式协调中间件监测各个服务节点的步骤之后，还包括：采集所述各个服务节点的报文流量；根据所述报文流量进行节点计算，确定各个服务节点对应的增减节点数量，流量监测与服务节点的动态增减，可根据流量的每秒处理量计算，以及近300秒的区间流量来计算出需要扩容或者减少的服务节点的数目，具体的计算公式如下： ；其中，表示需要增加或者减少的增减节点数量，当值为正时，表示需要增加，当值为负时，表示需要减少节点；表示近300秒的请求量；表示已部署的节点；表示每个节点的每秒的平均吞吐量；基于所述增减节点数量，通过节点控制器对各个服务节点进行开闭处理；根据所述更新的预测模型标记语言文件，对各个服务节点进行机器学习模型的变更部署的步骤，包括：根据所述更新的预测模型标记语言文件，生成预测实体集合；获取所述变更接口对应的模型标识；将所述模型标识和所述预测实体集合进行缓存变更，直至遍历各个服务节点后，结束机器学习模型的变更部署；所述将所述模型标识和所述预测实体集合进行缓存变更，直至遍历各个服务节点后，结束机器学习模型的变更部署的步骤，包括：根据所述模型标识和所述预测实体集合对各个服务节点进行缓存变更，获得缓存变更状态；在所述缓存变更状态存在部署失败状态时，停止所述缓存变更的操作，触发预设回滚机制；按所述预设回滚机制对已变更的服务节点进行回滚处理，并在所述回滚处理后，结束机器学习模型的变更部署。

全文数据：

权利要求：

百度查询： 中邮消费金融有限公司 机器学习模型部署方法、装置、设备及存储介质