买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:北京九章云极科技有限公司
摘要:本公开提供一种大语言模型分析方法、装置及相关设备,涉及大语言模型的技术领域,其中方法包括:步骤S1:获取大语言模型信息,所述大语言模型信息包括目标模型的模型文件以及框架数据,所述框架数据指示所述目标模型对应的目标应用框架;步骤S2:根据所述框架数据确定所述目标应用框架对应的目标镜像文件;步骤S3:根据所述目标镜像文件启动容器,并在所述容器中运行预先设置的模型分析服务;步骤S4:在将所述模型文件加载至所述容器中,且所述模型分析服务成功分析所述目标模型的情况下,得到所述模型分析服务输出的模型分析信息,所述模型分析信息包括所述目标模型的模型输入数据、模型输出数据。本公开能提升用户对外部模型的分析效率。
主权项:1.一种大语言模型分析方法,其特征在于,所述方法包括:步骤S1:获取大语言模型信息,所述大语言模型信息包括目标模型的模型文件以及框架数据,所述框架数据指示所述目标模型对应的目标应用框架;步骤S2:根据所述框架数据确定所述目标应用框架对应的目标镜像文件;步骤S3:根据所述目标镜像文件启动容器,并在所述容器中运行预先设置的模型分析服务;步骤S4:在将所述模型文件加载至所述容器中,且所述模型分析服务成功分析所述目标模型的情况下,得到所述模型分析服务输出的模型分析信息,所述模型分析信息包括所述目标模型的模型输入数据、模型输出数据。
全文数据:
权利要求:
百度查询: 北京九章云极科技有限公司 一种大语言模型分析方法、装置及相关设备
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。