Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 山东浪潮科学研究院有限公司王亚斌获国家专利权

山东浪潮科学研究院有限公司王亚斌获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉山东浪潮科学研究院有限公司申请的专利基于k8s的机器学习模型部署方法、装置、设备及介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119847550B

龙图腾网通过国家知识产权局官网在2025-10-31发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510019531.3,技术领域涉及:G06F8/61;该发明授权基于k8s的机器学习模型部署方法、装置、设备及介质是由王亚斌;魏子重设计研发完成,并于2025-01-07向国家知识产权局提交的专利申请。

基于k8s的机器学习模型部署方法、装置、设备及介质在说明书摘要公布了:本发明公开了基于k8s的机器学习模型部署方法、装置、设备及介质,属于云计算及机器学习技术领域,本发明要解决的技术问题为如何能够适配不同的模型格式与框架,自动选择运行时环境并加载模型,采用的技术方案为:S1、制作针对不同训练框架的模型服务运行时镜像;S2、模型服务运行时镜像固定从mntmodels目录加载模型文件;S3、构建模型服务运行时镜像,并将镜像推送到dokerhub或私有harbor镜像存储平台,生成对应的镜像地址以供使用;S4、安装并配置golang环境以及make命令工具,以便对源代码进行编译和构建;S5、根据系统要求,下载并解压kubebuilder;S6、使用kubebuilder构建k8sCRD,名称为serverruntime;S7、将serverruntime打包并部署到集群;S8、绑定不同训练框架与模型服务运行时镜像的对应关系。

本发明授权基于k8s的机器学习模型部署方法、装置、设备及介质在权利要求书中公布了:1.一种基于k8s的机器学习模型部署方法,其特征在于,该方法具体如下: S1、制作针对不同训练框架的模型服务运行时镜像;其中,训练框架包括Paddle、Pytorch、Tensorflow、Scikit-learn、XGBoost及LightGBM; S2、模型服务运行时镜像固定从mntmodels目录加载模型文件; S3、构建模型服务运行时镜像,并将镜像推送到dokerhub或私有harbor镜像存储平台,生成对应的镜像地址以供使用; S4、安装并配置golang环境以及make命令工具,以便对源代码进行编译和构建;其中,在linux系统使用包管理器安装golang和make,aptinstallgolang,aptinstallmake; S5、根据系统要求,下载并解压kubebuilder; S6、使用kubebuilder构建k8sCRD,名称为serverruntime;其中,serverruntime用于绑定模型格式与模型服务运行时镜像; S7、将serverruntime打包并部署到集群; S8、绑定不同训练框架与模型服务运行时镜像的对应关系; S9、使用kubebuilder构建k8sCRD,名称为modelserver;其中,modelserver用于提供模型部署时的必要信息; S10、将modelserver打包并部署至集群; S11、创建modelserver资源,只需指定模型的format以及模型存储的地址modelAddr,即可完成模型部署; 其中,步骤S9中的modelserver包括format字段、replicas字段、modelAddr字段以及标准的podSpec字段; 其中,format字段用于标识模型格式,允许的值为Paddle、Pytorch、Tensorflow、Scikit-learn、XGBoost以及LightGBM,与serverruntime的format值相对应,根据format字段值找到serverruntime中对应的模型服务运行时镜像地址,该镜像用作POD镜像; replicas字段用于标识Deployment创建出的POD个数,即模型部署的实例个数,默认值为1; modelAddr字段用于标识模型存储地址,支持网络路径; 标准的podSpec字段用于描述POD的基本信息,podSpec不包含image字段,因为image字段由format字段决定; 步骤S11中创建modelserver资源时处理如下: 根据标准的podPsec字段创建k8sDeployment资源,若标准的podSPec字段为空,则自行构建podSpec,下属image字段应为匹配的模型服务运行时镜像地址; Deployment的副本数量为replicas字段值; 创建initcontainer用于下载modelAddr字段中标识模型存储地址的镜像,并使用hostpath数据卷将下载好的模型挂载到容器的mntmodels目录; 创建k8sSercice资源,完成Service对POD的网络代理。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人山东浪潮科学研究院有限公司,其通讯地址为:250100 山东省济南市高新浪潮路1036号S02号楼;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。