买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:武汉理工大学
摘要:本发明公开了一种异构CPU集群分布式实时处理系统的调度装置及方法,首先获取集群中每个工作节点的计算能力;然后集群调度器根据任务拓扑信息,以及工作节点的计算能力向工作节点分配数据产生单元和数据处理单元,根据工作节点运行数据处理单元测试实例获得的实际运行时间计算该数据处理单元的权重得分,并添加数据产生单元和数据处理单元的目的数据处理单元信息;工作节点处理完的流数据通过本节点管理器按照目的数据处理单元的权重得分随机选择2个单元进行采样,根据采样信息计算负载大小,并向负载较小的目的数据处理单元发送流数据。本发明可以更高效地将任务负载均衡地分配到各个算力不同的异构工作节点中,高效地利用异构CPU集群资源。
主权项:1.一种异构CPU集群分布式实时处理系统的调度方法,其特征在于,包括以下步骤:步骤1:获取集群中每个工作节点的计算能力;其中,首先工作节点资源初始化,配置本节点管理器的IP地址和端口号,根据配置文件和本节点CPU核心数配置本节点的数据产生单元和数据处理单元插槽数,根据数据处理单元插槽数为每个数据处理单元初始化一个流数据接收队列,计算本节点CPU的算力得分;工作节点将本节点资源信息通过网络发送给集群调度器,集群调度器维护一个工作节点信息链表,并将接收到的工作节点资源信息按照CPU算力得分从小到大的顺序插入链表中;其中,CPU的算力得分为工作节点在单一核心上运行benchmark作业获得的得分;步骤2:集群调度器根据任务拓扑信息,以及工作节点的计算能力向工作节点分配数据产生单元和数据处理单元;所述任务拓扑信息,包含若干种数据产生单元和数据处理单元;每种数据产生单元和数据处理单元的并行度,即该种数据产生单元或数据处理单元在整个集群中存在的数量;每种数据处理单元的上级路径信息;每种数据处理单元的算力约束条件;步骤3:工作节点运行集群调度器分配的数据处理单元测试实例获得其实际运行时间;其中,工作节点管理器接收到集群调度器发送的工作节点信息,其中包括数据产生单元和数据处理单元的分配结果;工作节点管理器遍历包含分配结果的数组,将其放入未使用的单元插槽中,运行其测试实例并计算其运行时间;步骤4:集群调度器根据工作节点中数据处理单元的实际运行时间计算该数据处理单元的权重得分,并添加数据产生单元和数据处理单元的目的数据处理单元信息;步骤5:工作节点中数据产生单元产生的流数据或者数据处理单元处理完的流数据通过本节点管理器按照目的数据处理单元的权重得分随机选择2个目的数据处理单元进行采样,获得目的数据处理单元的流数据等待队列长度;步骤6:节点管理器根据所述等待队列长度计算目的数据处理单元的负载大小,并向负载较小的目的数据处理单元发送流数据。
全文数据:
权利要求:
百度查询: 武汉理工大学 异构CPU集群分布式实时处理系统的调度装置及方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。