首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种HBase表的Region合并方法和装置 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:中国银联股份有限公司

摘要:本发明实施例涉及Region处理领域,尤其涉及一种HBase表的Region合并方法和装置,用以解决现有技术中Region合并效率低以及合并精确性差的问题。本发明实施例中,包括:获取HBase表的多个Region中的每个Region对应的HDFS文件的属性信息,一个Region对应的HDFS文件的属性信息包括Region对应的文件所占用的存储空间;至少根据多个Region中每个Region对应的文件所占用的存储空间,对多个Region中的每相邻两个Region进行合并处理。通过本发明实施例中基于Region对应的文件所占用的存储空间进行合并,有助于提高相邻两个Region进行合并的精度。

主权项:1.一种分布式文件系统HBase表的Region合并方法,其特征在于,包括:获取HBase表的多个Region中的每个Region对应的HDFS文件的属性信息,一个Region对应的HDFS文件的属性信息包括所述Region对应的文件所占用的存储空间;剔除重复的Region;至少根据所述多个Region中每个Region对应的文件所占用的存储空间,对所述多个Region中的每相邻两个Region进行合并处理。

全文数据:一种HBase表的Region合并方法和装置技术领域[0001]本发明实施例涉及Region处理领域,尤其涉及一种HBase表的Region合并方法和装置。背景技术[0002]分布式文件系统HadoopDistributedFileSystem,简称HBase是一个分布式的、面向列的开源数据库。HBase不同于一般的关系数据库,它是一个适合于非结构化数据存储的数据库。HBase是可以提供实时计算的分布式数据库,数据被保存在HDFS分布式文件系统上。HBase将表会切分成小的数据单位叫Region,HBase中包括多个Region,每个Region中都存储一定的数据。Region被HMaster分配给多个RegionServer,每个RegionServer托管多个Region。[0003]通常,HBase包括Region的数量越多,该HBase的读写性能和扩展性能就好,对应的应用性能和扩展性也越来越好。但是由于HBase实现的机制和业务数据的不均衡,随着时间的推移,HBase表中Region的数量越来越多,需要的内存越来越大,需要管理的Region也越来越多。这样,对系统的性能和稳定性造成负面的影响。为了解决这些问题,需要对Region进行合并。现有技术是手工的方式合并相邻的两个Region。具体为:登录HBase表的监控页面,管理者在监控界面中挑选相邻的两个Region,之后在HBaseshell中对这个两个Region进行合并。[0004]然而,采用现有技术的合并方式,只能通过人工的方式随机将HBase表中相邻的Region进行合并,造成Region合并效率低以及合并精确性差的问题。发明内容[0005]本发明实施例提供一种HBase表的Region合并方法和装置,用以解决现有技术中Region合并效率低以及合并精确性差的问题。[0006]本发明实施例提供一种HBase表的Region合并方法,包括:获取HBase表的多个Region中的每个Region对应的HDFS文件的属性信息,一个Region对应的HDFS文件的属性信息包括所述Region对应的文件所占用的存储空间;至少根据所述多个Region中每个Region对应的文件所占用的存储空间,对所述多个Region中的每相邻两个Region进行合并处理。[0007]由于本发明实施例中,通过获取HBase表的多个Region中的每个Region对应的HDFS文件的属性信息:所述Region对应的文件所占用的存储空间,根据所述多个Region中每个Region对应的文件所占用的存储空间,对所述多个Region中的每相邻两个Region进行合并处理。通过本发明实施例中基于Region对应的文件所占用的存储空间进行合并,有助于提高相邻两个Region进行合并的精度;进一步,是自动确定出要合并的相邻两个Region,不需要人手工操作,可提高Region合并的效率。[0008]本发明实施例中,相邻两个Region会出现一个Region存在多个相邻两个Region中的场景;为了确保相邻两个Region中的列表在只包含唯一为Region,增加Region合并的精度,以及提高代码的稳定性。可选地,所述至少根据所述多个Region中每个Region对应的文件所占用的存储空间,对所述多个Region中的相邻两个Region进行合并处理之前,还包括:剔除重复的Region。[0009]可选地,所述至少根据所述多个Region中每个Region对应的文件所占用的存储空间,对所述多个Region中的每相邻两个Region进行合并处理,包括:[0010]针对第一Region和第二Region,确定所述第一Region和所述第二所述Region的对应的文件所占用的存储空间的和;所述第一Region和所述第二Region是所述多个Region中任两个相邻的Region;根据所述文件所占用的存储空间的和以及存储空间阈值,确定所述第一Region和所述第二Region对应的第一评分;至少根据所述第一评分确定所述第一Region和所述第二Region对应的总评分;若所述总评分满足预设值,则对所述第一Region和所述第二Region进行合并处理。[0011]通过第一评分来筛选需要合并的相邻两个Region,进而提高相邻两个Region合并的精确度。[0012]若两个Regions_Pair对应的文件所占用的存储空间的和相同时,为了提高筛选需要合并的相邻两个Region的精确度。可选地,所述一个Region对应的HDFS文件的属性信息还包括:所述Region对应的文件数量;确定所述第一Region和所述第二所述Region的对应的文件数量的和;根据所述文件数量的和以及文件数量阈值,确定所述第一Region和所述第二Region对应的第二评分;所述至少根据所述第一评分确定所述第一Region和所述第二Region对应的总评分,包括:至少根据所述第一评分和所述第二评分确定所述第一Region和所述第二Region对应的总评分。[0013]如果Region处于压缩过程时,Region中存在Region的.tmp子目录。如果合并这些Region将带来性能和稳定性问题。可选地,所述一个Region对应的HDFS文件的属性信息还包括:是否包含.tmp目录;根据所述第一Region和所述第二所述Region的对应的文件中是否包含.tmp格式文件的指示信息,确定所述第一Region和所述第二Region对应的第三评分;所述至少根据所述第一评分确定所述第一Region和所述第二Region对应的总评分,包括:至少根据所述第一评分、所述第二评分和所述第三评分确定所述第一Region和所述第二Region对应的总评分。[0014]通过第一评分、所述第二评分和所述第三评分确定所述第一Region和所述第二Region对应的总评分,进一步提高相邻两个Region合并的精度。[0015]本发明实施例提供一种分布式文件系统HBase表的Region合并装置,包括:获取单元,用于获取HBase表的多个Region中的每个Region对应的HDFS文件的属性信息,一个Region对应的HDFS文件的属性信息包括所述Region对应的文件所占用的存储空间;处理单元,用于至少根据所述多个Region中每个Region对应的文件所占用的存储空间,对所述多个Region中的每相邻两个Region进行合并处理。[0016]可选地,所述处理单元,还用于:剔除重复的Region。[0017]可选地,所述装置还包括确定单元,用于:针对第一Region和第二Region,确定所述第一Region和所述第二所述Region的对应的文件所占用的存储空间的和;所述第一Region和所述第二Region是所述多个Region中任两个相邻的Region;根据所述文件所占用的存储空间的和以及存储空间阈值,确定所述第一Region和所述第二Region对应的第一评分;[0018]所述处理单元,用于:至少根据所述第一评分确定所述第一Region和所述第二Region对应的总评分;若所述总评分满足预设值,则对所述第一Region和所述第二Region进行合并处理。[0019]可选地,所述一个Region对应的HDFS文件的属性信息还包括:所述Region对应的文件数量;所述确定单元,用于:确定所述第一Region和所述第二所述Region的对应的文件数量的和;根据所述文件数量的和以及文件数量阈值,确定所述第一Region和所述第二Region对应的第二评分;所述处理单元,用于:至少根据所述第一评分和所述第二评分确定所述第一Region和所述第二Region对应的总评分。[0020]可选地,所述一个Region对应的HDFS文件的属性信息还包括:是否包含.tmp目录;所述确定单元,用于:根据所述第一Region和所述第二所述Region的对应的文件中是否包含.tmp格式文件的指示信息,确定所述第一Region和所述第二Region对应的第三评分;所述处理单元,用于:至少根据所述第一评分、所述第二评分和所述第三评分确定所述第一Region和所述第二Region对应的总评分。[0021]本发明实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令用于使所述计算机执行上述所述的方法。[0022]本发明实施例提供一种计算机设备,包括:存储器,用于存储程序指令;处理器,用于调用所述存储器中存储的程序指令,按照获得的程序执行上述所述的方法。附图说明[0023]为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简要介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。[0024]图1为本发明实施例提供的一种通信系统架构示意图;[0025]图2为本发明实施例提供的一种分布式文件系统HBase表的Region合并方法的方法流程示意图;[0026]图3为本发明实施例提供的一种分布式文件系统HBase表的Region合并装置的结构示意图。具体实施方式[0027]为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作进一步地详细描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。[0028]当本申请提及“第一”、“第二”、“序数之词,应当理解为仅是起区分之用。[0029]图1示出了应用本发明实施例的一种通信系统的架构示意图。如图1所示,该系统架构可以包括至少一台服务器101和HBase表102。图1中以两台服务器101为例说明。服务器101可配置为24核IntelE5CPU、128G内存、20T存储空间;每台服务器中均部署有RegionServer服务。部署有RegionServer的服务器的作用是管理表格,以及实现读写操作。Client直接连接部署有RegionServer的服务器,并通信获取Hbase表中的数据。HBase表102可配置的内存为SSGc3HBase表中开始创建η个Region,η为大于等于1的整数;并往HBase表中填充多条记录,Region是真实存放Hbase数据的地方,也就说Region是HBase可用性和分布式的基本单位。可预先设置Hbase表中文件所占用的存储空间阈值和文件数量阈值。[0030]本发明实施例中,为了保证Regiοη的数量在一定的范围,需要对HBase表中的Region进行合并操作。首先根据用户输入HBase表的表名,调用HBaseAPI获取HBase表的Region列表RegionsInfo;该列表RegionsInf〇包括每个Region的信息TregionInfo:起始键值startKey、终止键值endKey、名称name、服务名称serverName、版本version、标识id等;可按照StartKey的顺序对每个Region排列。比如:[0031]startKey=”排在[0032]startKey=Ol10324100032007126-79829274-79829274886359-341631-48025840-48020000-0-01#010’的前面。[0033]本发明实施例提供了一种可选地Region列表RegionsInf〇的具体格式:[0039]本发明实施例中,根据所述Region列表RegionsInf〇中的各Region的名称Region_name确定出各Region在HDFS文件中路径Region_path信息;根据所述路径Region_path信息查询出所述各Region对应的所述HDFS文件的属性信息。可选地,文件的属性信息包括Region对应的文件所占用的存储空间、Region对应的文件数量、是否包含.tmp目录,可分别命名为length、fileCount、containsTmp;并将Region_name、Region_path、length、fiIeCount、containsTmp保存在对应的Region的Tregionlnfο;得到的TregionInfo格式如下:[0040]TregionInfoendKey,name,serverName,port,startKey,version,id,Region_name,hdfs—path,length,fiIeCount,containsTmp〇[0041]基于图I所示的系统架构,图2示例性示出了本发明实施例提供的一种分布式文件系统HBase表的Region合并方法的方法流程示意图,如图2所示,该HBase表的Region合并方法包括以下步骤:[0042]步骤201,获取HBase表的多个Region中的每个Region对应的HDFS文件的属性信息,一个Region对应的HDFS文件的属性信息包括Region对应的文件所占用的存储空间;[0043]步骤202,至少根据多个Region中每个Region对应的文件所占用的存储空间,对多个Region中的每相邻两个Region进行合并处理。[0044]由于本发明实施例中,通过获取HBase表的多个Region中的每个Region对应的HDFS文件的属性信息:Region对应的文件所占用的存储空间,根据多个Region中每个Region对应的文件所占用的存储空间,对多个Region中的每相邻两个Region进行合并处理。通过本发明实施例中基于Region对应的文件所占用的存储空间进行合并,有助于提高相邻两个Region进行合并的精度;进一步,是自动确定出要合并的相邻两个Region,不需要人手工操作,可提高Region合并的效率。[0045]为了便于对每相邻两个Region的合并处理,本发明实施例中可根据获取到的RegionsInf〇构造相邻两个Region的二维数组,可命名为Regions_Pair;Region[i]为第i对相邻的两个Region,而Region[i][0]为第i对的第一个Region,Region[i][1]为第i对的第二个RegioruRegions_pair格式如下:[0046][[Tregionlnfo,TregionInfo]......[TregionInfo,TregionInfo]]〇[0047]本发明实施例提供了一种根据Region的对应的文件所占用的存储空间确定是否需要对相邻的两个Region对进行合并处理的实现方式。具体为:所述至少根据所述多个Region中每个Region对应的文件所占用的存储空间,对所述多个Region中的每相邻两个Region进行合并处理,包括:针对第一Region和第二Region,确定所述第一Region和所述第二所述Region的对应的文件所占用的存储空间的和;所述第一Region和所述第二Region是所述多个Region中任两个相邻的Region;根据所述文件所占用的存储空间的和以及存储空间阈值,确定所述第一Region和所述第二Region对应的第一评分;至少根据所述第一评分确定所述第一Region和所述第二Region对应的总评分;若所述总评分满足预设值,则对所述第一Region和所述第二Region进行合并处理。[0048]本发明实施例,通过确定相邻两个Region对应的文件所占用的存储空间的和,确定相邻两个Region的第一评分,若第一评分满足预设值,则对相邻两个Region进行合并处理;如此,可以可提高筛选需要合并的相邻两个Region精确度。[0049]为了进一步提高相邻两个Region合并的精确度,可对每对相邻的Region进行初始化,初始化的评分可以设置为零。再确定相邻两个Region第一Region和第二所述Region对应的文件所占用的存储空间的和命名为Region_size_sum。若文件占用的存储空间的和超过存储空间阈值Gibase.hRegion.max.fiIesize,则第一评分确定为零。由于文件占用的存储空间对合并的精度的影响较大,为了简化确定是筛选相邻两个Region的过程,当文件占用的存储空间的和超过存储空间阈值时,可不再进行其他的比较,直接确定这两个相邻的Region不进行合并处理。若文件占用的存储空间的和小于存储空间阈值,那文件占用的存储空间的和越小说明相邻两个Region合并的价值越大,第一评分就越高。一种可选地确定评分的方式:在原来评分(可以是初始化值)的基础上增加I-Region_size_sumhbase.hRegion.max.filesize;其中,第一评分为l_Region_size_sumhbase.hRegion.max.fiIesize〇[0050]可选地,将所述第一评分命名为score,并保存在对应的Regions_Pair二维数据组中,贝ljRegions_Pair二维数组存储的信息如下:[0051][[Tregionlnfo,Tregionlnfo,score].......[Tregionlnfo,Tregionlnfo,score]]ο[0052]本发明实施例中,若两个Regions_Pair对应的文件所占用的存储空间的和相同时,其中,一个Regions_Pair下面Region的文件数量相比于另一个多时,由于文件数量少的Regions_Pair合并后发生压缩的概率较低,因此,文件数量少的Regions_Pair合并的价值较文件数量多的Regions_Pair合并的价值大。本发明实施例中,两个Regions_Pair对应的文件所占用的存储空间的和相同时,通过确定文件的Regions_Pair对应的文件的数量的和来提高筛选需要合并的相邻两个Region的精确度。[0053]可选地,所述一个Region对应的HDFS文件的属性信息还包括:所述Region对应的文件数量;确定所述第一Region和所述第二所述Region的对应的文件数量的和;根据所述文件数量的和以及文件数量阈值,确定所述第一Region和所述第二Region对应的第二评分;所述至少根据所述第一评分确定所述第一Region和所述第二Region对应的总评分,包括:至少根据所述第一评分和所述第二评分确定所述第一Region和所述第二Region对应的总评分。[0054]本发明实施例中,提供了一种可选地确定第二评分方式。若所述第一Region和所述第二所述Region的对应的文件数量的和Region_file_num小于文件数量阈值时,确定所述第一Region和所述第二Region对应的第二评分为:在原来的评分基础上增加0.1*11^区:[011_;1^16_1111111。若所述第一1^8;[011和所述第二所述1^8;[011的对应的文件数量的和Region_file_num大于文件数量阈值时,所述第二评分设置为零。可选地,确定所述第一Region和所述第二Region对应的总评分为第一评分和所述第二评分的和。[0055]本发明实施例中,如果Region处于压缩过程时,Region中存在Region的.tmp子目录。如果合并这些Region将带来性能和稳定性问题,因此需要考虑Region对应的HDFS文件的属性信息是否包括是否包含.tmp目录。[0056]本发明实施例中,所述一个Region对应的HDFS文件的属性信息还包括:是否包含.tmp目录;根据所述第一Region和所述第二所述Region的对应的文件中是否包含.tmp格式文件的指示信息,确定所述第一Region和所述第二Region对应的第三评分;所述至少根据所述第一评分确定所述第一Region和所述第二Region对应的总评分,包括:至少根据所述第一评分、所述第二评分和所述第三评分确定所述第一Region和所述第二Region对应的总评分。[0057]可选地,如果相邻两个Region对应的HDFS文件的属性信息还包括用于指示包含.tmp格式文件的指示信息,则第三评分设置为零,即不需要对包含指示包含.tmp格式文件的指示信息的第一Region和第二Region进行合并处理。若不包含.tmp格式文件的指示信息,则第三评分设置为原来的评分。[0058]可选地,确定所述第一Region和所述第二Region对应的总评分为第一评分、所述第二评分和第三评分的和。[0059]本发明实施例中,相邻两个Region形成Regions_pair,会出现一个Region存在多个Regions_pair中的场景;为了确保Region对中的列表在只包含唯一Region,增加Region合并的精度以及提高代码的稳定性,至少根据所述多个Region中每个Region对应的文件所占用的存储空间,对所述多个Region中的相邻两个Region进行合并处理之前,还包括剔除重复的Region。具体可以剔除掉评分较低的Regions_pair中重复的Region。[0060]本发明实施例,可以调用HBaseAPI或者HBaseshell中的Region合并方法依次对每个Regions_pair进行合并处理D[0061]为了便于说明,本发明实施例以如下具体的例子来说明。假设Hbase表中有相邻的10个Region;文件所占用的存储空间阈值hbase.hRegion.max.fiIesize=IOG、文件数量阈值hbase.hstore·compactionThreshold=5为例;假设每个Region对应的HDFS文件的属性信息如表1:[0062]表1每个Region对应的HDFS文件的属性信息[0064]针对表1中,将相邻两个Region确定为一个Regions_Pair,如表2所示:[0065]表2Regions—Pair[0067]针对每个Regions_Pair中的第一Region和第二Region,确定所述第一Region和所述第二所述Region的对应的文件所占用的存储空间的和、文件数量的和以及是否包含.tmp格式文件的指示信息。根据所述文件所占用的存储空间的和超过存储空间阈值时第一评分为零,文件占用的存储空间的和小于存储空间阈值时,第一评分在原来评分可以是初始化值)的基础上增加I_Region_size_sumhbase·hRegion·max.filesize。文件数量的和Region_file_num小于文件数量阈值时,第二评分为在原来的评分基础上增加0.I*11^区:[011_;1^16_1111111;若所述第一1^8;[011和所述第二所述1^8;[011的对应的文件数量的和Region_file_num大于文件数量阈值时,所述第二评分设置为零。相邻两个Region对应的HDFS文件的属性信息还包括.tmp目录,则第三评分设置为零。根据所述第一评分、所述第二评分和所述第三评分确定出每个Regions_Pair对应的总评分如表3所示:[0068]表3每个Regions_Pair对应的总评分[0070]若所述总评分满足预设值,则对Regi〇ns_Pair进行合并处理。假设预设值为0.4,筛选出符合条件的Regions_Pair,如表4所示:[0071]表4符合条件的Regions_Pair[0072][0073][0074]剔除Regions_Pair当中重复的Regions。当某个Regions存在重复时,根据score的大小仅仅保留score值最大的Regions_Pair。从表4可以得知,RG02、RG03、RG05在列表中存在重复,因此根据列表的顺序,保留score较大的Region对,最终需要合并的Region_Pair如表5所示:[0075]表5需要合并的Region_Pair[0077]将Regions_Pair中剩余的Regions_Pair取出来,通过HBaseAPI批量执行merge_Region操作,将所有符合条件的Region进行合并处理。[0078]从上述内容可以看出:本发明实施例中,由于本发明实施例中,通过获取HBase表的多个Region中的每个Region对应的HDFS文件的属性信息:所述Region对应的文件所占用的存储空间,根据所述多个Region中每个Region对应的文件所占用的存储空间,对所述多个Region中的每相邻两个Region进行合并处理。通过本发明实施例中基于Region对应的文件所占用的存储空间进行合并,有助于提高相邻两个Region进行合并的精度;进一步,是自动确定出要合并的相邻两个Region,不需要人手工操作,可提高Region合并的效率。[0079]基于相同的技术构思,本发明实施例还提供一种HBase表的Region合并装置,该装置可执行上述方法实施例。图3为本发明实施例提供了一种HBase表的Region合并装置的结构示意图,如图3所示,该装置300包括获取单元301、处理单元302;可选地,还包括确定单元303。其中:[0080]获取单元,用于获取HBase表的多个Region中的每个Region对应的HDFS文件的属性信息,一个Region对应的HDFS文件的属性信息包括所述Region对应的文件所占用的存储空间;处理单元,用于至少根据所述多个Region中每个Region对应的文件所占用的存储空间,对所述多个Region中的每相邻两个Region进行合并处理。[0081]可选地,所述处理单元,还用于:剔除重复的Region。[0082]可选地,所述装置还包括确定单元,用于:针对第一Region和第二Region,确定所述第一Region和所述第二所述Region的对应的文件所占用的存储空间的和;所述第一Region和所述第二Region是所述多个Region中任两个相邻的Region;根据所述文件所占用的存储空间的和以及存储空间阈值,确定所述第一Region和所述第二Region对应的第一评分;所述处理单元,用于:至少根据所述第一评分确定所述第一Region和所述第二Region对应的总评分;若所述总评分满足预设值,则对所述第一Region和所述第二Region进行合并处理。[0083]可选地,所述一个Region对应的HDFS文件的属性信息还包括:所述Region对应的文件数量;所述确定单元,用于:确定所述第一Region和所述第二所述Region的对应的文件数量的和;根据所述文件数量的和以及文件数量阈值,确定所述第一Region和所述第二Region对应的第二评分;所述处理单元,用于:至少根据所述第一评分和所述第二评分确定所述第一Region和所述第二Region对应的总评分。[0084]可选地,所述一个Region对应的HDFS文件的属性信息还包括:是否包含.tmp目录;所述确定单元,用于:根据所述第一Region和所述第二所述Region的对应的文件中是否包含.tmp格式文件的指示信息,确定所述第一Region和所述第二Region对应的第三评分;所述处理单元,用于:至少根据所述第一评分、所述第二评分和所述第三评分确定所述第一Region和所述第二Region对应的总评分。[0085]从上述内容可以看出:本发明实施例中,由于本发明实施例中,通过获取HBase表的多个Region中的每个Region对应的HDFS文件的属性信息:所述Region对应的文件所占用的存储空间,根据所述多个Region中每个Region对应的文件所占用的存储空间,对所述多个Region中的每相邻两个Region进行合并处理。通过本发明实施例中基于Region对应的文件所占用的存储空间进行合并,有助于提高相邻两个Region进行合并的精度;进一步,是自动确定出要合并的相邻两个Region,不需要人手工操作,可提高Region合并的效率。[0086]在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现、当使用软件程序实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述指令可以存储在计算机存储介质中,或者从一个计算机存储介质向另一个计算机存储介质传输,例如,所述指令可以从一个网站站点、计算机、服务器或数据中心通过有线例如同轴电缆、光纤、数字用户线DSL或无线例如红夕卜、无线、微波等方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带、磁光盘MO等)、光介质(例如,00、0¥0、80、取0等)、或者半导体介质(例如1?01^?1?01、EEPR0M、非易失性存储器NANDFLASH、固态硬盘SolidStateDisk,SSD等。本领域内的技术人员应明白,本申请实施例可提供为方法、系统、或计算机程序产品。因此,本申请实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质包括但不限于磁盘存储器、CD-ROM、光学存储器等上实施的计算机程序产品的形式。[0087]本申请实施例是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和或方框图来描述的。应理解可由指令实现流程图和或方框图中的每一流程和或方框、以及流程图和或方框图中的流程和或方框的结合。可提供这些指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和或方框图一个方框或多个方框中指定的功能的装置。这些指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和或方框图一个方框或多个方框中指定的功能。[0088]这些指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和或方框图一个方框或多个方框中指定的功能的步骤。[0089]显然,本领域的技术人员可以对本申请实施例进行各种改动和变型而不脱离本申请的精神和范围。这样,倘若本申请实施例的这些修改和变型属于本申请权利要求及其等同技术的范围之内,则本申请也意图包含这些改动和变型在内。

权利要求:1.一种分布式文件系统HBase表的Region合并方法,其特征在于,包括:获取HBase表的多个Region中的每个Region对应的HDFS文件的属性信息,一个Region对应的HDFS文件的属性信息包括所述Region对应的文件所占用的存储空间;至少根据所述多个Region中每个Region对应的文件所占用的存储空间,对所述多个Region中的每相邻两个Region进行合并处理。2.如权利要求1所述的方法,其特征在于,所述至少根据所述多个Region中每个Region对应的文件所占用的存储空间,对所述多个Region中的相邻两个Region进行合并处理之前,还包括:剔除重复的Region。3.如权利要求1所述的方法,其特征在于,所述至少根据所述多个Region中每个Region对应的文件所占用的存储空间,对所述多个Region中的每相邻两个Region进行合并处理,包括:针对第一Region和第二Region,确定所述第一Region和所述第二所述Region的对应的文件所占用的存储空间的和;所述第一Region和所述第二Region是所述多个Region中任两个相邻的Region;根据所述文件所占用的存储空间的和以及存储空间阈值,确定所述第一Region和所述第二Region对应的第一评分;至少根据所述第一评分确定所述第一Region和所述第二Region对应的总评分;若所述总评分满足预设值,则对所述第一Region和所述第二Region进行合并处理。4.如权利要求3所述的方法,其特征在于,所述一个Region对应的HDFS文件的属性信息还包括:所述Region对应的文件数量;确定所述第一Region和所述第二所述Region的对应的文件数量的和;根据所述文件数量的和以及文件数量阈值,确定所述第一Region和所述第二Region对应的第二评分;所述至少根据所述第一评分确定所述第一Region和所述第二Region对应的总评分,包括:至少根据所述第一评分和所述第二评分确定所述第一Region和所述第二Region对应的总评分。5.如权利要求4所述的方法,其特征在于,所述一个Region对应的HDFS文件的属性信息还包括:是否包含.tmp目录;根据所述第一Region和所述第二所述Region的对应的文件中是否包含.tmp格式文件的指示信息,确定所述第一Region和所述第二Region对应的第三评分;所述至少根据所述第一评分确定所述第一Region和所述第二Region对应的总评分,包括:至少根据所述第一评分、所述第二评分和所述第三评分确定所述第一Region和所述第二Region对应的总评分。6.—种分布式文件系统HBase表的Region合并装置,其特征在于,包括:获取单元,用于获取HBase表的多个Region中的每个Region对应的HDFS文件的属性信息,一个Region对应的HDFS文件的属性信息包括所述Region对应的文件所占用的存储空间;处理单元,用于至少根据所述多个Region中每个Region对应的文件所占用的存储空间,对所述多个Region中的每相邻两个Region进行合并处理。7.如权利要求6所述的装置,其特征在于,所述处理单元,还用于:剔除重复的Region。8.如权利要求6所述的装置,其特征在于,还包括确定单元,用于:针对第一Region和第二Region,确定所述第一Region和所述第二所述Region的对应的文件所占用的存储空间的和;所述第一Region和所述第二Region是所述多个Region中任两个相邻的Region;根据所述文件所占用的存储空间的和以及存储空间阈值,确定所述第一Region和所述第二Region对应的第一评分;所述处理单元,用于:至少根据所述第一评分确定所述第一Region和所述第二Region对应的总评分;若所述总评分满足预设值,则对所述第一Region和所述第二Region进行合并处理。9.如权利要求8所述的装置,其特征在于,所述一个Region对应的HDFS文件的属性信息还包括:所述Region对应的文件数量;所述确定单元,用于:确定所述第一Region和所述第二所述Region的对应的文件数量的和;根据所述文件数量的和以及文件数量阈值,确定所述第一Region和所述第二Region对应的第二评分;所述处理单元,用于:至少根据所述第一评分和所述第二评分确定所述第一Region和所述第二Region对应的总评分。10.如权利要求9所述的装置,其特征在于,所述一个Region对应的HDFS文件的属性信息还包括:是否包含.tmp目录;所述确定单元,用于:根据所述第一Region和所述第二所述Region的对应的文件中是否包含.tmp格式文件的指示信息,确定所述第一Region和所述第二Region对应的第三评分;所述处理单元,用于:至少根据所述第一评分、所述第二评分和所述第三评分确定所述第一Region和所述第二Region对应的总评分。11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机可执行指令,所述计算机可执行指令用于使所述计算机执行权利要求1至5任一权利要求所述的方法。12.—种计算机设备,其特征在于,包括:存储器,用于存储程序指令;处理器,用于调用所述存储器中存储的程序指令,按照获得的程序执行如权利要求1至5任一权利要求所述的方法。

百度查询: 中国银联股份有限公司 一种HBase表的Region合并方法和装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。