买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
摘要:本发明公开了一种异构系统间数据升迁系统和方法,其中,异构系统间数据升迁系统包括动态分页控制器、升迁方式管理器、升迁核心处理器和升迁日志管理器;所述动态分页控制器:采用动态二次分页对数据进行读取;所述升迁方式管理器:选择每次升迁需要使用的升迁方式,并根据新旧系统的配置情况选择同步还是异步升迁,从而生成调度配置文件;所述升迁核心处理器:根据升迁方式管理器生成的调度配置文件完成数据的处理;所述升迁日志管理器:收集每次升迁操作的关键日志数据。系统中四个组件相互协作实现了保证数据完整性、一致性以及提高系统扩展性的优点。
主权项:1.一种异构系统间数据升迁系统,其特征在于,包括动态分页控制器、升迁方式管理器、升迁核心处理器和升迁日志管理器;所述动态分页控制器:采用动态二次分页对数据进行读取;所述升迁方式管理器:选择每次升迁需要使用的升迁方式,并根据新旧系统的配置情况选择同步还是异步升迁,从而生成调度配置文件;所述升迁核心处理器:根据升迁方式管理器生成的调度配置文件完成数据的处理;所述升迁日志管理器:收集每次升迁操作的关键日志数据;所述动态分页控制器采用的动态二次分页具体为:在一次分页时先将需要升迁的业务单据的所有表头主键ID存储到一张临时表中,再从临时表中分批读取一定数量的主键ID到内存中,在二次分页时,直接从内存中分批读取已缓存的主键ID,利用读取的主键ID从旧数据库中将实际业务数据读取到内存中。
全文数据:异构系统间数据升迁系统和方法技术领域[0001]本发明涉及计算机领域,具体地,涉及一种异构系统间数据升迀系统和方法。背景技术[0002]目前,随着信息技术、网络技术、通讯技术、数据库技术的不断发展。企业之间的竞争不是仅仅在产品质量和服务上竞争,更重要的是借助信息技术、网络技术、通讯技术和数据库技术与管理理念结合来提高企业的核心竞争力,快速响应市场需求。促进企业各机构、各部门和各员工之间的协作能力和随时随地沟通。[0003]在企业信息化的过程中,由于企业管理与经营范围的扩大,可能会先后使用到不同的信息系统。在当前大数据环境背景下,数据已经成为提高企业竞争力、探索业务增长点、促进企业向企业互联网转型的一种重要资源。所以,随着系统的更新换代,如何保证旧系统数据在新系统上可以继续使用,整合各个子系统数据是当前企业信息化过程中的一种重要诉求。[0004]为了能够继续在新系统上使用旧系统的数据,需要进行数据升迁,一般有三种方法。[0005]第一种方法是利用数据库的DBLink技术,将旧系统和新系统的数据库进行连接,将旧系统数据库表的数据直接导入新系统中,这样数据升迁方式在时间上是最快的,开发成本也是最低的。但是,这种方法有一个最致命的缺陷就是要求两个系统尤其是后台数据库表结构必须非常相似甚至完全一致,否则无法使用该方法。对于实际应用上,两个异构系统一般情况极少能出现后台数据表结构及其相似的情况,所以这种方法再很多情况下不适用。[0006]第二种方法是将旧系统数据导出成EXCEL或XML格式文件,再通过新系统的导入功能导入进新系统。这种方法效率低下而且很多业务关联的后台中间表数据无法导入,会导致导入的业务数据后续无法进行业务流程操作。[0007]第三种方法是开发一套数据升迀系统,在程序中解析旧系统的数据,并组织成新系统要求的数据格式保存到新系统数据库中。[0008]进行数据升迁,一般会遇到以下问题:[0009]首先,是升迁数据的完整性和一致性问题。升迁到新系统的数据,必须要保证和旧系统数据是完全一致并且正确的。在旧系统中未完的业务在新系统中同样可以继续完成。这是数据升迀的一个基本也是最重要的要求。但在实际升迁过程中,往往升迁系统和新系统不是同一套开发人员,两套系统往往不能很好的结合共用,相对比较独立,这样就造成升迀系统往往不能很好的利用新系统已有的很多保证数据完整性和一致性的功能,需要重新开发,这不仅造成了重复开发,增大开发成本,而且会对于升迁上来的数据的完整性和一致性也存在潜在风险。[0010]其次,是可扩展性问题。随着企业业务的不断深入和扩大,需要升迁的数据会变得越来越多,涉及到的领域和模块也会越来越多,同时需要升迁到的目标系统可能也会有变化。这时候,原升迁系统需要支持灵活的扩展模式以应对不同的业务和开发需求,并尽可能的降低扩展开发的成本和时间。[0011]再次,是升迁时点和升迁方案问题。数据升迀是一个长时间连续的过程,一般做不到一蹴而就。客户一般希望在数据升迁时尽量不影响旧系统的使用,这实际上给升迁工作造成的一定的困难。是选择同步升迁还是异步升迁,如何保证在用户不停机或尽量短时间停机的情况下完成数据升迁工作都将是实际在指定升迁方案时需要考虑和权衡的要素。无论最后选择何种方案,实际上都需要在升迁系统支持的情况下选择,这就要求升迀系统要足够强大,同时能支持多种不同方案,以应对不同项目需求情况。[0012]最后,是大数据量问题。当企业需要进行系统间数据升迁时,一般旧系统已经使用很长时间,积累的历史数据也会相当庞大,往往会达到亿级水平,数据库一般会在10T以上。所以,现有升迀系统往往会先将旧系统业务数据进行合并汇总,降低实际升迁的业务数据量,再进行升迀。这样会造成升迁后数据在一定程度上的不可用性。当用户需要具体明细数据时,仍需要去原始系统中查看,造成的资源的浪费。发明内容[0013]本发明的目的在于,针对上述问题,提出一种异构系统间数据升迁系统和方法,以实现保证数据完整性、一致性并提高系统扩展性的优点。[0014]为实现上述目的,本发明采用的技术方案是:[0015]一种异构系统间数据升迁系统,包括动态分页控制器、升迁方式管理器、升迁核心处理器和升迁日志管理器;[0016]所述动态分页控制器:采用动态二次分页对数据进行读取;[0017]所述升迀方式管理器:选择每次升迁需要使用的升迁方式,并根据新旧系统的配置情况选择同步还是异步升迁,从而生成调度配置文件;[0018]所述升迀核心处理器:根据升迁方式管理器生成的调度配置文件完成数据的处理;[0019]所述升迁日志管理器:收集的每次升迀操作的关键日志数据。[0020]优选的,所述动态分页控制器采用的动态二次分页具体为:[0021]在一次分页时先将需要升迁的业务单据的所有表头主键ID存储到一张临时表中,再从临时表中分批读取一定数量的主键ID到内存中,在二次分页时,直接从内存中分批读取已缓存的主键ID,利用读取的主键ID从旧数据库中将实际业务数据读取到内存中。[0022]优选的,从内存中分批读取已缓存的主键ID中,读取的主键ID数量是通过分析实际业务数据量动态计算后产生的。[0023]优选的,升迁方式管理器管理的升迁方式,包括:[0024]一次升迁:即升迁系统一次性将所有旧系统数据全部升迁到新系统中;[0025]多次升迁:即将整体的升迁时间段拆分,根据拆分的升迀时间段多次进行数据升迁。[0026]优选的,所述多次升迁,包括多次新增升迀和多次覆盖升迁,[0027]所述多次新增升迀:即指定时间范围内,新系统的数据库中所有数据都是从旧系统中新增的;[0028]所述多次覆盖升迀:即指定时间范围内针对已升迁过的历史单据进行同步更新,保证新旧系统数据的一致性。[0029]优选的,所述升迀核心处理器,包括:[0030]数据查询单元:通过读取需要升迁的业务单据的数据查询配置文件自动生成查询的sql语句,根据数据库动态分页中读取的具体主键ID,读取旧数据库中的业务单据明细,并将读取的数据传输给数据转换单元;[0031]数据转换单元:通过旧系统单据表和新系统单据表各字段的映射关系表,将接收的数据查询单元的数据转换成新系统可识别的数据结构,以便充分利用新系统已开发的各种应用代码;[0032]数据翻译单元:接收数据转换单元的数据,将转换后的数据中档案字段ID翻译成新系统的档案主键ID;[0033]数据处理单元:对数据翻译单元处理后的数据中进行后台字段填充并校验数据的正确性;[0034]数据保存单元:对数据处理单元处理后的数据进行分类保存。[0035]优选的,还包括:预警和修复单元:当数据翻译单元将档案字段ID翻译成新系统的档案主键ID前需要对旧系统中单据的档案字段进行分析,当旧系统中上记录的档案字段有误是,进行异常数据预警和修复。[0036]优选的,所述数据转换单元中,旧系统单据表和新系统单据表各字段的映射关系表中的映射关系表为EXCEL表格。[0037]同时本发明技术方案还公开一种异构系统间数据升迁方法,包括:[0038]采用动态二次分页对数据进行读取;[0039]选择每次升迁需要使用的升迁方式,并根据新旧系统的配置情况选择同步还是异步升迁,从而生成调度配置文件;[0040]根据生成的调度配置文件完成数据的升迁处理;[0041]收集每次升迁操作的关键日志数据。[0042]优选的,所述动态二次分页具体为:[0043]在一次分页时先将需要升迁的业务单据的所有表头主键ID存储到一张临时表中,再从临时表中分批读取一定数量的主键ID到内存中,在二次分页时,直接从内存中分批读取己缓存的主键ID,其中,每次读取的己缓存的主键ID的数量是根据分析实际业务数据量动态计算,利用读取的主键ID从旧数据库中将实际业务数据读取到内存中。[0044]本发明的技术方案具有以下有益效果:[0045]1:充分利用新系统的应用开发功能,保证升迁数据的完整性;[0046]2:支持灵活配置,当升迁需求不断变化时,支持新业务数据升迁的快速开发,降低开发成本,提升系统可扩展性;[0047]3:支持不同升迁方案,无论同步升迁还是异步升迁,保证用户在尽可能不停机不影响用户使用的情况下完成数据升迀工作,并保证数据一致性;[0048]4:支持亿级数据大数据量的数据升迁。在保证效率的前提下,可以将原始海量数据全部升迁到新系统,并保证升迀过程的稳定性。[0049]下面通过附图和实施例,对本发明的技术方案做进一步的详细描述。附图说明[0050]图1为本发明实施例所述的异构系统间数据升迀系统的原理框图;[0051]图2为本发明实施例所述的数据库动态分页流程图;[0052]图3为本发明实施例所述的升迁方式管理器工作流程图;[0053]图4为本发明实施例所述的升迁核心处理器工作流程图。具体实施方式[0054]以下结合附图对本发明的优选实施例进行说明,应当理解,此处所描述的优选实施例仅用于说明和解释本发明,并不用于限定本发明。[0055]如图1所示,一种异构系统间数据升迁系统,包括动态分页控制器、升迁方式管理器、升迁核心处理器和升迁日志管理器;[0056]动态分页控制器:采用动态二次分页对数据进行读取;[0057]升迁方式管理器:选择每次升迁需要使用的升迀方式,并根据新旧系统的配置情况选择同步还是异步升迁,从而生成调度配置文件;[0058]升迀核心处理器:根据升迁方式管理器生成的调度配置文件完成数据的处理;[0059]升迀日志管理器:收集的每次升迁操作的关键日志数据。[0060]其中,动态分页控制器采用的动态二次分页具体为:[0061]在一次分页时先将需要升迁的业务单据的所有表头主键ID存储到一张临时表中,再从临时表中分批读取一定数量的主键ID到内存中,在二次分页时,直接从内存中分批读取已缓存的主键ID,利用读取的主键ID从旧数据库中将实际业务数据读取到内存中。其中一定数量中的数量根据设定确定。[0062]从内存中分批读取的主键ID的数量是通过分析实际业务数据量动态计算后产生的。[0063]升迀方式管理器管理的升迁方式,包括:[0064]一次升迁:即升迁系统一次性将所有旧系统数据全部升迀到新系统中;[0065]多次升迀:即将整体的升迁时间段拆分,根据拆分的升迀时间段多次进行数据升迁。[0066]多次升迀,包括多次新增升迁和多次覆盖升迁,[0067]所述多次新增升迁:即指定时间范围内,新系统的数据库中所有数据都是从旧系统中新增的;[0068]所述多次覆盖升迀:即指定时间范围内针对已升迀过的历史单据进行同步更新,保证新旧系统数据的一致性。[0069]升迁核心处理器,包括:[0070]数据查询单元:通过读取需要升迁的业务单据的数据查询配置文件自动生成查询的sql语句,根据数据库动态分页中读取的具体主键ID,读取旧数据库中的业务单据明细,并将读取的数据传输给数据转换单元;[0071]数据转换单元:通过旧系统单据表和新系统单据表各字段的映射关系表,将接收的数据查询单元的数据转换成新系统可识别的数据结构,以便充分利用新系统已开发的各种应用代码;[0072]数据翻译单元:接收数据转换单元的数据,将转换后的数据中档案字段ID翻译成新系统的档案主键ID;[0073]数据处理单元:对数据翻译单元处理后的数据中进行后台字段填充并校验数据的正确性;[0074]数据保存单元:对数据处理单元处理后的数据进行分类保存。[0075]优选的,还包括:预警和修复单元:当数据翻译单元将档案字段ID翻译成新系统的档案主键ID前需要对旧系统中单据的档案字段进行分析,当旧系统中上记录的档案字段有误是,进行异常数据预警和修复。[0076]数据转换单元中,旧系统单据表和新系统单据表各字段的映射关系表中的映射关系表为EXCEL表格。[0077]同时本发明技术方案还公开一种异构系统间数据升迁方法,包括:[0078]采用动态二次分页对数据进行读取;[0079]选择每次升迀需要使用的升迁方式,并根据新旧系统的配置情况选择同步还是异步升迀,从而生成调度配置文件;[0080]根据生成的调度配置文件完成数据的升迁处理;[0081]收集每次升迀操作的关键日志数据。[0082]本发明提供了一种异构系统间基于数据库动态分页技术的多时段分批数据升迁系统。对比现有的数据升迀系统,本发明主要针对支持大数据量升迀充分利用内存资源、多种升迁方式灵活支持、更好的利用新系统现有功能增强升迀系统扩展性这三个方面进行了改进。为了实现上述改进,该系统设计了四个核心组件,其中包括:动态分页控制器、升迀方式管理器、升迁核心处理器和升迀日志管理器。四个组件相互协作,共同完成一个海量数据的升迁工作,并提供多种配置和扩展方式以应对不同的升迀需求,降低升迁成本。[0083]本技术方案具体工作如下:[0084]第一,通过数据库动态分页控制器来实现对海量业务数据升迁的支持。由于异构系统间数据结构的差异性,为了批量解析升迁原始数据,需要先将数据读取到中间件内存中,进行程序业务逻辑处理,然后保存进新系统。当数据量很大时,中间件可承载最大内存是有限的,不可能将所有需要升迀的数据一次性全部读到内存中,这样就需要采用数据库分页的技术来分批将数据读到内存中。现有的数据库分页技术每页的数据量业务单据条数是恒定的,当业务单据的分布数据量及其不均匀时如:单据子表的表体行数大小变化很大),为了防止内存溢出,需要将恒定值取下限,这样就不能更充分的利用内存空间,增大了分页数,进而影响效率。针对上述问题,本发明设计了一种动态二次分页技术,如图2所7J\〇[0085]由于升迁的业务数据一般都是单据,所以在一次分页时先将需要升迀的业务单据的所有表头主键ID存储到一张临时表中,再从临时表中分批读取一定数量可根据配置调整)的主键ID到内存中,作为二次分页再分批读取数据明细时使用。在二次分页时,可以直接从内存中分批读取一部分主键ID,利用此主键ID从旧数据库中将实际业务数据读取到内存中,为后续升迁操作提供数据准备。之所以进行二次分页,是因为当数据量非常大时,往往会非常多次的从数据库中读取单据明细,这样就需要非常多次的获取主键ID,将主键ID做一层内存缓存,可以有效减少从数据库中查询主键ID的次数,进而提升分页查询效率。[0086]动态是指在每次从内存中获取的主键ID个数是通过分析实际业务数据量动态计算后产生的,目的也是为了尽可能充分的利用内存,减少分页查询次数,提升分页查询效率。由于单据一般都是主子表结构,同一种单据由于每张单据的表体行数不尽相同,所以一个表头主键ID所代表的实际数据量即表头+表体行数总和)会差距很大。如果每次读取的单据数量即表头主键数量是一个定值,这就必须设置一个较低的值以解决当出现个别单据表体行很大时造成的内存溢出问题。而当实际单据表体行数量分布极度不平均时,就会造成很大程度的内存浪费,无形间提高了分页查询的次数,极大降低了查询效率。针对这种情况,本发明设计了根据预设内存值动态计算单据数量,每次动态的从二次分页内存中读取一定量的主键ID,进行分页查询。尽可能充分的利用了内存,减少了分页查询次数,提高了分页机制查询效率。[0087]第二,通过升迀方式管理器,使本次发明的升迁系统可以支持多种升迁方式,以应对多种不同的实际升迀需求。现有传统的升迁系统往往没有考虑多种升迁方案的问题,这样在针对不同升迁方案时往往不能灵活支持。比如用户要求升迀过程不能停机,当用户数据量非常大时,在不停机情况下,一般需要多种升迁方案配合使用:多次分批新增升迁、升迁数据的二次更新等。本发明设计的升迁方式管理器就是为了解决上述问题。该管理器可以智能的判断或手工选择每次升迁需要使用哪一种升迁方式,并根据配置情况选择同步还是异步升迀执行,进而调度后续针对不同方式设计的不同升迁核心处理。[0088]本发明支持一次升迁和多次升迀两大类升迁方式。[0089]一次升迁,顾名思义,升迁系统一次性将所有旧系统数据全部升迁到新系统中。这种升迁方式往往针对旧系统数据量较小,客户允许的可停机升迁时间充裕。升迁方案往往是将旧系统停机,一次性将所有数据升迁到新系统中。[0090]多次升迁,当升迁的数据量非常庞大,客户要求的停机时间比较短时,一次升迁由于时间过长,往往不能满足需求。这就需要将整体的升迀时间段拆分,规划每次升迁时间范围。在技术上,由于恢复一个数据库时间很长,所以可能需要支持生产环境的联机热备数据库作为数据源来升迀。因为是联机升迁,所以实际业务单据是在不断变化的,为保证数据的一致性,多次升迁又分为多次新增升迁和多次覆盖升迀。[0091]多次新增升迀,指定一个时间范围,所有的单据均没有在新系统的数据库中存在,这时所有数据最终都是新增保存,系统会记录成功日志和错误日志。[0092]多次覆盖升迁,即历史升迀数据的升级。对指定时间范围内针对已升迁过的历史单据进行同步更新,保证新旧系统数据的一致性。系统会同步记录成功日志和错误日志,这些日志也牵涉到新增,删除,修改等。具体如图3所示。[0093]第三,通过升迁核心处理器,实现了将旧系统业务数据升迁到新系统的过程。为了进一步增强该升迁系统的可扩展性,本发明中的升迁核心处理器将升迁过程抽象成了几个功能,在实际开发和扩展时,研发人员只需要针对具体步骤同时结合新系统的已有业务逻辑进行开发。通过其中的转换功能,可以将旧系统组织成新系统应有程序可识别的数据结构,进而便可以利用新系统应用中已有的很多关于数据校验、数据填充、数据保存的API,这样就充分利用了新系统的应用开发代码,来保证升迀数据的完整性。同时,核心处理的每个关键步骤均是通过配置文件来完成加载和调度的,这就使整个升迁过程高度可扩展,根据买际升迁需求,灵活配置,支持新业务数据升迁的快速开发,降低开发成本,提升了系统可扩展性。[0094]以下就针对核心处理器的几个主要功能进行详细说明,如图4所示:[0095]1、数据查询。升迁系统通过读取需要升迁的业务单据的数据查询配置文件自动生成查询的sql语句,根据数据库动态分页中读取的具体主键ID,读取旧数据库中的业务单据明细,将数据传递给下一步进行数据转换。[0096]2、数据转换。通过旧系统单据表和新系统单据表各字段的映射关系表,升迁系统将读取到的数据转换成新系统可识别的数据结构,这样后续所有操作就是针对新系统数据的操作,新系统己有的各种数据填充、校验、保存等API则可以直接使用。新旧系统表字段映射关系表实际上就是一张EXCEL表,该表的维护起来非常方便,开发、实施甚至客户都可以根据实际需求灵活配置。[0097]3、数据翻译。业务数据表中记录了大量档案的主键ID,这些档案在异构系统间主键可能会不一致,造成这种现象往往可能是由于新系统的档案是重新维护的或档案从旧系统升迀到新系统时没有考虑保存原主键或表结构变化较大无法保存原主键。这时,在转换成新系统数据结构后,需要将单据里面的档案字段ID翻译成新系统的档案主键ID。本发明的升迁系统通过一个元数据解析器会自动解析新系统单据各字段中的档案字段,根据不同的档案字段调用不同的档案ID翻译器进行翻译。如果升迁的目的系统发生变化,只需更换元数据解析器,即可实现快速扩展。[0098]同时,在分析单据的档案字段时,由于旧系统的不确定性,有时旧单据上记录的档案字段有误,如该档案已经被删除等。当升迁系统数据翻译过程中发现该问题时,会进行异常数据预警和修复步骤。通过实现升迁系统开发的预警和修复接口,可以非常灵活的根据实际需求进行异常数据处理。[00"]4、数据处理。数据处理一般分为数据填充和数据校验,当一张新单据在保存前,往往需要填充一些后台字段并校验单据的数据正确性,由于已经转换成新系统实际应用程序使用的数据结构,所以可以直接加载新系统应用程序的一些数据填充和校验的API,快速开发数据处理环节的代码,同时还能保证数据的正确性。[0100]5、数据保存。由于本发明的升迀系统支持多次升迁,所以数据保存可能涉及到新增、修改和删除。升迀系统通过升迁方式管理器和以往升迁日志已分析出要处理的数据具体应该进行何种保存操作,所以,在进行数据保存时只需根据之前的分析结果,分类调用新系统API进行保存即可。[0101]第四,升迁日志管理器。日志可以帮助系统处理各类运行时问题,帮助系统分析当前运行状态,升迁系统也不例外。通过升迁日志管理器收集的每次升迁操作的关键日志数据,升迀系统可以很方便的分析出当前操作是新增升迀还是覆盖升迁,并可以通过日志收集异常数据,进而为修复异常数据,定位数据或程序问题提供了依据。[0102]综上所述,本发明技术方案具有以下效果:[0103]1•为针对大数据量的数据升迁,充分利用内存空间,本发明技术方案采用数据库动态二次分页技术。现有的数据库分页技术每个数据页中查询的数据量是一定的,改为动态分页后,可以更有效利用预设的内存,根据实际数据情况可以有效减少分页次数,提高分页查询效率。[0104]2.为了灵活支持各种升迁场景需求,使多种升迁方式可以灵活组合使用,本发明技术方案采用升迁方式管理器,这样在应对复杂多变的升迁场景时,就可以将多种升迁方式灵活组合,增强了升迁系统的业务支持范围,减少了升迁系统的二次开发。[0105]3.为了能更好的结合已有新系统,减少开发成本,加快交付进程。本发明将升迁核心流程抽象成几个功能。其中,数据转换过程,将旧系统数据转换成新系统可识别的数据结构,这样就可以使用很多新系统的API,使新系统和升迁系统建立联系,并利用新系统的很多应用API来保证数据正确性。对比现有升迁系统和新系统往往相对比较孤立,这就造成在真正实施某个升迀项目时,针对新系统需要对原升迁系统进行大量开发,造成开发成本的浪费。[0106]4.所有升迁均通过配置文件进行调度执行,并开放了多个接口,以适应不同升迁需求,进行快速数据升迁的二次开发。[0107]最后应说明的是:以上所述仅为本发明的优选实施例而已,并不用于限制本发明,尽管参照前述实施例对本发明进行了详细的说明,对于本领域的技术人员来说,其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
权利要求:1.一种异构系统间数据升迁系统,其特征在于,包括动态分页控制器、升迁方式管理器、升迁核心处理器和升迁日志管理器;所述动态分页控制器:采用动态二次分页对数据进行读取;所述升迁方式管理器:选择每次升迁需要使用的升迁方式,并根据新旧系统的配置情况选择同步还是异步升迁,从而生成调度配置文件;所述升迀核心处理器:根据升迀方式管理器生成的调度配置文件完成数据的处理;所述升迀日志管理器:收集每次升迁操作的关键日志数据;所述动态分页控制器采用的动态二次分页具体为:在一次分页时先将需要升迀的业务单据的所有表头主键ID存储到一张临时表中,再从临时表中分批读取一定数量的主键ID到内存中,在二次分页时,直接从内存中分批读取已缓存的主键ID,利用读取的主键ID从旧数据库中将实际业务数据读取到内存中。2.根据权利要求1所述的异构系统间数据升迀系统,其特征在于,上述从内存中分批读取已缓存的主键ID中,读取的主键ID数量是通过分析实际业务数据量动态计算后产生的。3.根据权利要求2所述的异构系统间数据升迀系统,其特征在于,升迀方式管理器管理的升迀方式,包括:一次升迀:即升迁系统一次性将所有旧系统数据全部升迁到新系统中;多次升迀:即将整体的升迀时间段拆分,根据拆分的升迁时间段多次进行数据升迁。4.根据权利要求3所述的异构系统间数据升迀系统,其特征在于,所述多次升迁,包括多次新增升迁和多次覆盖升迀,所述多次新增升迁:即指定时间范围内,新系统的数据库中所有数据都是从旧系统中新增的;所述多次覆盖升迁:即指定时间范围内针对己升迁过的历史单据进行同步更新,保证新旧系统数据的一致性。5.根据权利要求2所述的异构系统间数据升迁系统,其特征在于,所述升迀核心处理器,包括:数据查询单元:通过读取需要升迀的业务单据的数据查询配置文件自动生成查询的sql语句,根据数据库动态分页中读取的具体主键ID,读取旧数据库中的业务单据明细,并将读取的数据传输给数据转换单元;数据转换单元:通过旧系统单据表和新系统单据表各字段的映射关系表,将接收的数据查询单元的数据转换成新系统可识别的数据结构,以便充分利用新系统已开发的各种应用代码;数据翻译单元:接收数据转换单元的数据,将转换后的数据中档案字段ID翻译成新系统的档案主键ID;数据处理单元:对数据翻译单元处理后的数据中进行后台字段填充并校验数据的正确性;数据保存单元:对数据处理单元处理后的数据进行分类保存。6.根据权利要求5所述的异构系统间数据升迁系统,其特征在于,还包括:预警和修复单元:当数据翻译单元将档案字段ID翻译成新系统的档案主键ID前需要对旧系统中单据的档案字段进行分析,当旧系统中记录的档案字段有误时,进行异常数据预警和修复。7.根据权利要求5所述的异构系统间数据升迀系统,其特征在于,所述数据转换单元中,旧系统单据表和新系统单据表各字段的映射关系表中的映射关系表sEXCEL表格。8.—种异构系统间数据升迀方法,其特征在于,包括:采用动态二次分页对数据进行读取;选择每次升迁需要使用的升迁方式,并根据新旧系统的配置情况选择同步还是异步升迁,从而生成调度配置文件;根据生成的调度配置文件完成数据的升迁处理;收集每次升迁操作的关键日志数据;所述动态二次分页具体为:在一次分页时先将需要升迁的业务单据的所有表头主键ID存储到一张临时表中,再从临时表中分批读取一定数量的主键ID到内存中,在二次分页时,直接从内存中分批读取已缓存的主键ID,其中,每次读取的已缓存的主键ID的数量是根据分析实际业务数据量动态计算,利用读取的主键ID从旧数据库中将实际业务数据读取到内存中。
百度查询: 用友网络科技股份有限公司 异构系统间数据升迁系统和方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。