买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉湖南大学申请的专利基于RKNN平台的多深度学习模型推理调度方法与系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119883572B 。

龙图腾网通过国家知识产权局官网在2025-10-03发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510045764.0，技术领域涉及：G06F9/48；该发明授权基于RKNN平台的多深度学习模型推理调度方法与系统是由肖美燕;黄嘉嘉;常万里设计研发完成，并于2025-01-13向国家知识产权局提交的专利申请。

本基于RKNN平台的多深度学习模型推理调度方法与系统在说明书摘要公布了：本发明提出了一种新的基于RKNN平台的多深度学习模型推理调度方法和系统，所述方法包括步骤：S1，建立多深度学习模型；S2，将模型Mi的任务集Ti的任务放置到相应的优先级的任务队列中等待；S3，调度引擎按照优先级降序搜索任务队列中的非空队列，选择该非空队列中的第一个任务实例作为传输任务，并发送至NPU核心；S4，计算NPU核心的负载均衡度，判断所述负载均衡度是否超出预设阈值；S5，在所述负载均衡度超出所述预设阈值时，对NPU核心进行负载均衡。本发明提高了多任务推理过程中的负载均衡，提高了系统的持续运行能力和能源效率资源利用率，避免了任务之间的资源争用，降低了推理延迟，提升了系统的响应速度。

本发明授权基于RKNN平台的多深度学习模型推理调度方法与系统在权利要求书中公布了：1.一种基于RKNN平台的多深度学习模型推理调度方法，其特征在于，包括步骤： S1，建立多深度学习模型，包括：将t时刻RKNN平台中的n个深度学习模型记录为M={M1,…,Mi,…,Mn}，1≤i≤n；将深度学习模型Mi记录为Mi={Ti, Li,pi}，其中Li表示Mi的关键级别，高关键性和低关键性分别用1和0表示；Pi表示模型Mi的优先级，需要用户手动分配，预设的优先级级别为从高到低的Q个优先级；Ti为模型Mi的任务集Ti= {,..，..}，nTi为模型Mi就绪任务集的任务数，1≤j≤nTi；任务表示为＝{ei,j ,Di,j ,Ti,j ,pi,j}；其中，ei,j表示最坏情况下NPU以最大频率推理任务所需的时间，Di,j表示当前任务从释放开始到截止时间的时间间隔，Ti,j代表任务的周期，pi,j表示为任务的优先级；k个NPU核心记录为V={ρ1，ρ2，…, ρk}； S2，确定模型Mi的推理任务的优先级Pi，并将模型Mi的任务集Ti的任务放置到相应的优先级的任务队列que1~queQ中等待； S3，调度引擎按照优先级降序搜索任务队列que1~queQ中的非空队列，选择该非空队列中的第一个任务实例作为传输任务，并发送至NPU核心； S4，计算NPU核心的负载均衡度，判断所述负载均衡度是否超出预设阈值； S5，在所述负载均衡度超出所述预设阈值时，对NPU核心进行负载均衡。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人湖南大学，其通讯地址为：410000 湖南省长沙市岳麓区麓山南路麓山门；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。