买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉珠海横乐医疗科技有限公司申请的专利一种边缘计算场景中大模型智能体的推理卸载方法、系统及介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119861982B 。

龙图腾网通过国家知识产权局官网在2025-10-31发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411857975.6，技术领域涉及：G06F9/445；该发明授权一种边缘计算场景中大模型智能体的推理卸载方法、系统及介质是由余芃;郭利;王澄设计研发完成，并于2024-12-16向国家知识产权局提交的专利申请。

本一种边缘计算场景中大模型智能体的推理卸载方法、系统及介质在说明书摘要公布了：本发明公开了一种边缘计算场景中大模型智能体的推理卸载方法、系统及介质，方法包括将待处理的目标大模型任务输入预先构建的Transformer‑PPO模型以得到相应的目标卸载方案用于将目标大模型任务分解为多个目标子任务并确定相应的卸载决策，模型建立过程包括利用Transformer网络将大模型任务得到一有向无环图的推理链；基于PPO算法生成推理链的包括各个子任务的卸载策略的卸载方案，卸载策略为子任务的卸载决策及卸载决策的概率；通过惩罚和或奖励上一轮训练中增加和或降低总延迟的卸载策略以得到本轮训练中的卸载方案。本发明能够得到更优的大模型任务的推理卸载方案，提升大模型任务的处理效率、降低设备能耗。

本发明授权一种边缘计算场景中大模型智能体的推理卸载方法、系统及介质在权利要求书中公布了：1.一种边缘计算场景中大模型智能体的推理卸载方法，其特征在于，所述方法包括以下步骤： 将待处理的目标大模型任务输入预先构建的Transformer-PPO模型以得到用以完成所述目标大模型任务的目标卸载方案，所述目标卸载方案包括多个目标子任务、各个目标子任务的执行顺序以及卸载决策，所述卸载决策包括卸载与不卸载，所述目标大模型任务被分解为多个所述目标子任务； 其中，所述Transformer-PPO模型预先通过以下步骤进行建立： 基于Transformer网络和PPO算法设计一基础模型； 以大模型任务为学习样本，利用Transformer网络将所述大模型任务得到推理链GV,E，GV,E为一个有向无环图，V为所述有向无环图的顶点的集合、其表示由所述大模型任务分解得到的各个子任务的集合，E为所述有向无环图中的有向边的集合，有向边evi,vj∈E表示子任务vi与子任务vj之间的依赖关系，vi∈V，vj∈V，i、j均为正整数； 生成所述推理链的卸载方案，所述卸载方案包括各个所述子任务的卸载策略，所述卸载策略为所述子任务的卸载决策以及卸载决策的概率； 按照以下方式对所述基础模型进行多轮优化训练直至得到训练后的模型并作为所述Transformer-PPO模型：基于PPO算法通过惩罚上一轮训练中增加总延迟的卸载策略和或奖励上一轮训练中降低总延迟的卸载策略以得到本轮训练中的卸载方案，所述总延迟为按照所述卸载方案执行完成任务所用的总时长。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人珠海横乐医疗科技有限公司，其通讯地址为：519000 广东省珠海市横琴新区粤澳合作中医药科技产业园豆蔻路36号1栋101室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。