首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

基于大语言模型的业务处理方法及装置 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:中国移动通信集团浙江有限公司;中国移动(浙江)创新研究院有限公司;中国移动通信集团有限公司

摘要:本发明提供一种基于大语言模型的业务处理方法及装置,其中方法包括:基于算力网络接收目标业务请求;算力网络基于预先存储的业务请求与适配器之间映射关系,从多个适配器中确定目标业务请求对应的目标适配器;算力网络基于基座大语言模型以及目标适配器,构建目标业务请求的目标推理服务,并基于目标推理服务,处理目标业务请求。本发明提供的基于大语言模型的业务处理方法及装置,通过算力网络仅需要部署一个完整基座大语言模型,基于多个适配器之间的切换即可完成推理能力的切换,显著节省算力资源,使得不同类型的适配器可以在同一推理任务中协同工作,大幅度提高处理效率。

主权项:1.一种基于大语言模型的业务处理方法,其特征在于,所述方法包括:基于算力网络接收目标业务请求,所述算力网络是用于处理业务请求的计算资源,所述算力网络中部署了基座大语言模型以及所述基座大语言模型的多个适配器;所述算力网络基于预先存储的业务请求与适配器之间映射关系,从所述多个适配器中确定所述目标业务请求对应的目标适配器;所述算力网络基于所述基座大语言模型以及所述目标适配器,构建所述目标业务请求的目标推理服务,并基于所述目标推理服务,处理所述目标业务请求。

全文数据:

权利要求:

百度查询: 中国移动通信集团浙江有限公司 中国移动(浙江)创新研究院有限公司 中国移动通信集团有限公司 基于大语言模型的业务处理方法及装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。