恭喜齐鲁工业大学(山东省科学院);山东省计算中心(国家超级计算济南中心)王继彬获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜齐鲁工业大学(山东省科学院);山东省计算中心(国家超级计算济南中心)申请的专利面向深度学习的细粒度、干扰感知的GPU调度方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119149240B 。
龙图腾网通过国家知识产权局官网在2025-04-08发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411594962.4,技术领域涉及:G06F9/50;该发明授权面向深度学习的细粒度、干扰感知的GPU调度方法及系统是由王继彬;曾文卓;郭莹;潘景山;吴晓明;杨美红设计研发完成,并于2024-11-11向国家知识产权局提交的专利申请。
本面向深度学习的细粒度、干扰感知的GPU调度方法及系统在说明书摘要公布了:本发明提出面向深度学习的细粒度、干扰感知的GPU调度方法及系统,涉及GPU资源调度技术领域。包括在离线阶段收集工作负载的资源需求信息;生成每个应用程序对应的在GPU上执行的CUDA内核任务;拦截每个应用程序CUDA内核任务的启动请求,并将启动请求对应的CUDA内核任务缓存在每个应用程序对应的任务队列中;对于高优先级应用程序,直接将对应任务队列中的CUDA内核任务提交给GPU调度;对于低优先级应用程序,根据干扰评分以及资源需求判断是否提交CUDA内核任务至GPU进行调度。本发明能够减少任务之间的资源冲突和干扰,实现GPU资源共享,提高GPU资源利用率。
本发明授权面向深度学习的细粒度、干扰感知的GPU调度方法及系统在权利要求书中公布了:1.面向深度学习的细粒度、干扰感知的GPU调度方法,其特征在于,包括以下步骤:在离线阶段收集工作负载的资源需求信息;根据应用程序的计算需求,生成每个应用程序对应的在GPU上执行的CUDA内核任务;具体为:使用深度学习框架将应用程序的操作编译为CUDA计算内核,所述CUDA计算内核是GPU执行的基本单位,每个CUDA计算内核代表一种特定的计算任务,形成在GPU上执行的CUDA内核任务;拦截每个应用程序CUDA内核任务的启动请求,并将启动请求对应的CUDA内核任务缓存在每个应用程序对应的任务队列中;判断每个应用程序的优先级为高优先级还是低优先级;轮询每个应用程序的任务队列,对于高优先级应用程序,直接将对应任务队列中的CUDA内核任务提交给GPU调度;对于低优先级应用程序,根据干扰评分以及资源需求判断是否提交CUDA内核任务至GPU进行调度;所述干扰评分用于衡量将低优先级CUDA内核任务调度到GPU时产生的干扰程度: ;其中,为内核的计算单元利用率,为内核的内存带宽利用率,、分别为内核的计算单元利用率和内存带宽利用率的系数;为干扰评分。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人齐鲁工业大学(山东省科学院);山东省计算中心(国家超级计算济南中心),其通讯地址为:250000 山东省济南市长清区大学路3501号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。