买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：中国科学院计算技术研究所

摘要：本发明提出一种保证延迟敏感应用延迟SLO的动态调控资源方法及系统。在分布式存储系统的服务节点中创建多个请求队列，不同类型的请求位于不同的队列，根据该服务节点的逻辑线程资源和目标尾延迟需求，为请求队列分配线程组并实时动态调控线程资源，且各请求队列的线程组与的物理CPU资源相绑定；客户端发送应用访问请求至该服务节点，该服务节点根据该应用访问请求的类型，将该应用访问请求存入与其类型相对应的请求队列作为当前队列，并使用为该当前队列分配的线程组处理该应用访问请求，将处理结果发送给该客户端。本发明能够保证延迟敏感型应用的尾延迟满足目标需求，同时还能够使得批处理类应用的带宽维持在较高水平。

主权项：1.一种保证延迟敏感应用延迟SLO的动态调控资源方法，其特征在于，包括：步骤1、在分布式存储系统的服务节点中创建多个请求队列，不同类型的请求位于不同的队列，并根据该服务节点的逻辑线程资源和延迟敏感型应用的目标尾延迟需求，为请求队列分配线程组，且各请求队列的线程组与该服务节点的物理CPU资源相绑定；步骤2、服务节点内部延迟敏感型应用队列请求按窗口划分，结合窗口信息与延迟敏感型队列目标尾延迟需求分配线程资源，并实时监控窗口内请求处理速率以及后续请求的到达速率，实时动态调控延迟敏感型队列的线程资源以保证目标尾延迟需求，剩余线程资源将用于服务其他应用；步骤3、客户端发送应用访问请求至该服务节点，该服务节点根据该应用访问请求的类型，将该应用访问请求存入与其类型相对应的请求队列作为当前队列，并使用为该当前队列分配的线程组处理该应用访问请求，将处理结果发送给该客户端；其中，该请求类型包括访问延迟敏感类型，该步骤3包括：步骤31、将访问延迟敏感类型的请求队列设为延迟敏感队列，将延迟敏感队列中应用访问请求以窗口为单位进行划分，当延迟敏感队列中第一个请求被处理时，当前延迟敏感队列中所有请求视为一个窗口Wi，则后续进入敏感队列的第一个请求为下一个窗口Wi+1的第一个请求；步骤32、对于窗口Wi，在其生命周期内维护如下信息：{ERi，QLi，TWi，DRi}，其中，ERi为窗口Wi的请求入队速率，QLi为窗口Wi大小，TWi为等待时间，DRi为窗口Wi的请求出队速率；窗口Wi的窗口大小未确定时，其DRi≡0且ERi＞0，此时仍有请求入队，一旦窗口Wi确定后，其ERi≡0且DRi＞0，此时窗口Wi内的请求将出队被分配的线程组处理；且该步骤3包括：步骤33、根据延迟敏感型应用的目标尾延迟Tslo和请求的IO时间Tio，并结合窗口Wi所维护的状态信息，在窗口Wi初始时为其分配Ni个线程，Ni按照如下公式进行估算：该步骤3还包括步骤34、步骤35，或该步骤3还包括步骤36、步骤37；该步骤34、对于窗口Wi，假定在Ti时刻第i个请求出队，在Tj时刻第j个请求出队，在时间Tj-Ti内，出队的请求数为DQi，则请求的出队速率DRi为DQiTj-Ti，窗口wi的理想出队速率为QLiTslo-Tio-TWi；该步骤35、实时监测窗口Wi内请求出队速率DRi与理想出队速率之间的差距，若则将窗口Wi内的所需线程数Ni设置为系统总线程数N；若则根据计算窗口Wi所需的线程数；该步骤36、对于窗口Wi，假定在Ti时刻第i个请求入队，在Tj时刻第j个请求入队，在时间Tj-Ti内，入队的请求数为EQi，则请求的入队速率ERi为EQiTj-Ti；该步骤37、实时监测窗口Wi内请求出队速率DRi与窗口Wi+1的请求入队速率ERi+1，对于窗口Wi来说，若DRi＜ERi+1，则将窗口Wi内的线程数量设置为系统总线程N；若DRi≥ERi+1，则再次根据计算窗口Wi所需的线程数。

全文数据：

权利要求：

百度查询： 中国科学院计算技术研究所 一种保证延迟敏感应用延迟SLO的动态调控资源方法及系统