买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜中南大学申请的专利一种边缘智能服务器神经网络推断任务调度方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114706678B 。

龙图腾网通过国家知识产权局官网在2025-03-28发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210284033.8，技术领域涉及：G06F9/50；该发明授权一种边缘智能服务器神经网络推断任务调度方法是由王彦波;张德宇;张永敏;吕丰;张尧学设计研发完成，并于2022-03-22向国家知识产权局提交的专利申请。

本一种边缘智能服务器神经网络推断任务调度方法在说明书摘要公布了：本发明公开了一种边缘智能服务器神经网络推断任务调度方法，步骤包括：利用GPU虚拟化技术将GPU虚拟成多个虚拟GPU；按照预设的分配策略，为虚拟GPU分配预设的资源，用排队服务系统按照预设的执行批次，为每个推断任务的类别对应的虚拟GPU分配推断任务；收集每一类推断任务的平均服务延迟和计算资源量，判断是否需要调整分配策略，是则用强化学习算法计算新的分配策略；按照新的分配策略，为虚拟GPU分配对应的资源，用排队服务系统按照对应的执行批次，为每个任务的类别对应的虚拟GPU分配神经网络推断任务。本发明以较低的计算复杂度，满足动态场景的实时性要求，并且有效的解决了在较大规模的边缘计算场景中的负载均衡问题。

本发明授权一种边缘智能服务器神经网络推断任务调度方法在权利要求书中公布了：1.一种边缘智能服务器神经网络推断任务调度方法，其特征在于，包括如下步骤：S1、利用GPU虚拟化技术将GPU虚拟成多个虚拟GPU；S2、为所述虚拟GPU分配预设的资源，用排队服务系统按照预设的执行批次，为每个推断任务的类别对应的虚拟GPU分配推断任务；S3、收集每一类推断任务的平均服务延迟和所分配的计算资源量，判断是否需要调整分配策略，是则用强化学习算法计算新的分配策略；S4、为所述虚拟GPU分配新的分配策略对应的资源，用排队服务系统按照新的分配策略对应的执行批次，为每个任务的类别对应的虚拟GPU分配神经网络推断任务；其中，步骤S3的具体步骤包括：收集所有推断任务的平均服务延迟和边缘智能服务器给所有推断任务分配的计算资源量，作为此时的状态值，选择当前状态值下对应的动作A；根据动作A，重新分配计算资源量和进行任务调度，获取下一状态，根据剩余资源量和推断任务执行情况，利用奖惩机制得到回报R；获取当前状态的任务执行情况和资源分配情况，合并为当前状态数据，获取下一个状态的任务执行情况和资源分配情况，合并为下一个状态数据，将当前状态数据、行为A、下一个状态数据和回报R以数组D的形式存放到优先经验回放池中，并计算得到优先经验回放池中数组D的采样概率；根据所述采样概率将所述经验回放池中的数组D提取到D3QN网络，进行D3QN网络的梯度下降误差训练，并判断是否满足终止条件，若满足，获得训练的GPU资源分配和任务调度模型，并执行下一步，否则，将下一个状态作为当前状态，执行选择当前状态值下对应的动作A的步骤；将所述训练的GPU资源分配和任务调度模型导入到边缘智能服务器。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中南大学，其通讯地址为：410083 湖南省长沙市麓山南路932号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。